चित्रण: जॉन डेवोल

उन कंपनियों की नैतिक जिम्मेदारियां क्या हैं जो बड़े पैमाने पर मानव व्यवहार में हेरफेर करने में सक्षम हैं? यह एक सवाल है जो उम्मीद करता है कि प्रौद्योगिकीविद् और डिजाइनर दुनिया के बदलते उत्पादों का निर्माण करते समय खुद से पूछते हैं - लेकिन ऐसा नहीं है जो अक्सर पर्याप्त रूप से पूछा गया हो।

संचालक कंडीशनिंग, आंतरायिक सुदृढीकरण, आत्म-प्राप्ति की खोज - दुनिया की सबसे बड़ी कंपनियों में उत्पाद प्रबंधकों द्वारा उपयोग की जाने वाली तकनीक समान भागों मनोविज्ञान और प्रौद्योगिकी हैं। शॉन पार्कर के रूप में, फेसबुक के संस्थापक अध्यक्ष, ने हाल ही में स्वीकार किया है, कंपनी लंबे समय से "मानव मनोविज्ञान में भेद्यता का शोषण करने" के व्यवसाय में लगी हुई है।

हमारे गैजेट और ऐप्स पहले से कहीं ज्यादा प्रेरक हैं। फिर भी इन प्रौद्योगिकियों के निर्माताओं के लिए, उपयोगकर्ता के व्यवहार को नैतिक रूप से बदलने के लिए कुछ दिशानिर्देश मौजूद हैं। एक मानक के बिना, व्यवसाय अधिक व्यस्तता, अधिक वृद्धि और अंततः, अधिक लाभ के लिए कभी न खत्म होने वाली खोज में लिफाफे को अनायास ही धकेल देते हैं। जैसा कि एक स्टार्टअप के संस्थापक ने मुझे बताया, "दिन के अंत में, मेरे पास मेरे निवेशकों और कर्मचारियों के प्रति एक दायित्व है, और मैं कुछ भी कर सकता हूं, जो कि मैं कानून तोड़ने, अपने उत्पाद का उपयोग करने वाले लोगों को प्राप्त करने के लिए कर सकता हूं।"

तकनीक उद्योग को सही काम करने का निर्णय लेने के लिए जेल के समय के खतरे से बेहतर करने की आवश्यकता है।

शुक्र है, मुझे पता है कि अधिकांश प्रौद्योगिकीविद् और डिजाइनर लोगों के जीवन को बेहतर बनाने के लिए काम कर रहे हैं। दुनिया भर में, उद्यमी ऐसे उत्पादों का निर्माण करने की आकांक्षा रखते हैं जो ग्राहकों को पसंद हों। चाहे एक बड़ी सिलिकॉन वैली टेक कंपनी में काम कर रहे हों या किसी गैराज से बाहर, वे लोगों को अपने जीवन में अगले अपरिहार्य सुधार की पेशकश करके कार्रवाई करने का सपना देखते हैं, और अधिकांश इस बारे में एक उपरोक्त तरीके से जाने की कोशिश करते हैं।

यह कैसे प्रयोग किया जाता है

बेशक, उनमें से कई भी अमीर नहीं होंगे। लेकिन यह मिश्रण - दोनों को एक अंतर और एक लाभ बनाने के लिए ड्राइव - कैसे मानव जाति ने हमारी कई सबसे विकराल समस्याओं को हल किया है। निर्माण उत्पादों के साथ कुछ भी गलत नहीं है जिसका लोग उपयोग करना चाहते हैं, लेकिन उपयोगकर्ता के व्यवहार को डिजाइन करने की शक्ति को नैतिक सीमाओं के मानक के साथ आना चाहिए।

परेशानी वही तकनीक है जो कुछ मामलों में लाइन पार कर जाती है और दूसरों में वांछनीय परिणाम लाती है। उदाहरण के लिए, स्नैपचैट का उपयोग धारियाँ - जो लगातार दिनों की संख्या में मित्रों ने फ़ोटो साझा की हैं - कंडीशनिंग किशोरों द्वारा ऐप पर वापस आने के लिए अनिवार्य रूप से आलोचना की गई है। लेकिन वही अनुनय तकनीक भाषा ऐप डुओलिंगो द्वारा प्रोग्राम के साथ एक नई भाषा स्टिक सीखने में लोगों की मदद करने के लिए उपयोग की जाती है।

इलेक्ट्रॉनिक स्लॉट मशीनों को चलाने वाले जुआरी से नकद निकालने के लिए उपयोग किए जाने वाले समान चर पुरस्कारों का उपयोग वीडियो गेम में भी किया जाता है, जो बच्चों को कैंसर से पीड़ित होने में मदद करता है क्योंकि वे दर्दनाक उपचार प्राप्त करते हैं।

स्पष्ट रूप से, यह अनुनय तकनीक ही नहीं है कि समस्या क्या है - यह कैसे तकनीक का उपयोग किया जाता है।

लेकिन अच्छे और बुरे उपयोगों के बीच अंतर बताने के लिए एक परीक्षण के बिना, यह देखना आसान है कि डिजाइनर कैसे भटक सकते हैं।

द रिग्रेट टेस्ट

टेक इंडस्ट्री को एक नए नैतिक बार की जरूरत है। Google का आदर्श वाक्य, "बुरा मत बनो," बहुत अस्पष्ट है। सुनहरा नियम, "दूसरों के साथ वैसा ही करो जैसा तुम उनके साथ करते हो," तर्कसंगतता के लिए बहुत अधिक जगह छोड़ देता है।

मेरा तर्क है कि जो हम कहना चाहते हैं, वह यह है कि "दूसरों से वह मत करो जो वे उनके लिए नहीं करना चाहते।" लेकिन हम यह कैसे जान सकते हैं कि उपयोगकर्ता क्या करते हैं और क्या नहीं चाहते हैं?

मैं विनम्रतापूर्वक "अफसोस की परीक्षा" का प्रस्ताव देता हूं।

यदि हम एक नैतिक रूप से संदिग्ध रणनीति का उपयोग करने के बारे में अनिश्चित हैं, “यदि लोग उत्पाद डिजाइनर को सब कुछ जानते हैं, तो क्या वे अभी भी व्यवहार को निष्पादित करेंगे? क्या उन्हें ऐसा करने पर पछतावा होने की संभावना है? "

यदि उपयोगकर्ता कार्रवाई करने पर पछतावा करेंगे, तो तकनीक पछतावा परीक्षण में विफल हो जाती है और उत्पाद में निर्मित नहीं होना चाहिए, क्योंकि यह लोगों को कुछ ऐसा करने में हेरफेर करता है जो वे नहीं करना चाहते हैं। लोगों को कुछ ऐसा करने के लिए प्राप्त करना जो वे नहीं करना चाहते, अब अनुनय नहीं है - यह जबरदस्ती है।

तो हम कैसे बताएं कि लोग किसी उत्पाद का उपयोग करने पर पछताते हैं? सरल! हम उनसे पूछते हैं।

जिस तरह कंपनियां संभावित विशेषताओं का परीक्षण करती हैं, वे रोल आउट करने पर विचार कर रहे हैं, वे परीक्षण कर सकते हैं कि क्या एक संदिग्ध रणनीति कुछ लोग अनुकूल उत्तर देंगे यदि उन्हें पता था कि आगे क्या होने वाला है।

यह परीक्षण अवधारणा उद्योग के लिए नई नहीं है - उत्पाद डिजाइनर हर समय नई सुविधाओं का परीक्षण करते हैं। लेकिन पछतावा परीक्षण लोगों के प्रतिनिधि नमूने से पूछकर एक और नैतिक जांच सम्मिलित करेगा यदि वे सब कुछ जानते हुए भी कार्रवाई करेंगे जो डिजाइनर को पता है कि होने जा रहा है।

परीक्षण के लिए आवश्यक रूप से बहुत अधिक प्रयास या लागत की आवश्यकता नहीं होगी। हाल ही के एक लेख में, नीलसन नॉर्मन ग्रुप के जैकब नीलसन ने लिखा कि उनका मानना ​​है कि प्रयोज्य परीक्षण के परिणाम पांच लोगों के साथ परीक्षण से आ सकते हैं।

जहाजों का मलबा

तकनीकी नवाचार के इतिहास में कई अनपेक्षित परिणाम शामिल हैं। जैसा कि सांस्कृतिक सिद्धांतकार पॉल विरिलियो ने एक बार कहा था, "जहाज का आविष्कार भी जहाज के आविष्कार का था।" अफसोस की परीक्षा के बारे में सुंदर बात यह है कि यह अनैतिक डिजाइन पर ब्रेक लगाते हुए उन अनपेक्षित परिणामों में से कुछ को मात देने में मदद कर सकता है। अभ्यास करने से पहले वे लाखों उपयोगकर्ताओं के लिए लाइव होते हैं।

पछतावा परीक्षण भी नियमित जाँच के लिए इस्तेमाल किया जा सकता है। कई लोगों की तरह, मैंने अपने फोन से फेसबुक जैसे विचलित करने वाले ऐप्स को अनइंस्टॉल कर दिया है क्योंकि मुझे इस बात का पछतावा है कि मैं अपने फ़ीड के माध्यम से समय बर्बाद करने के बजाय उन लोगों के साथ पूरी तरह से मौजूद हूं जिनकी मुझे परवाह है। क्या मेरे जैसे लोगों के बारे में जानना फेसबुक के हित में नहीं होगा?

यदि कोई कंपनी, चाहे वह फ़ेसबुक हो या कोई अन्य व्यवसाय हो, उन उपयोगकर्ताओं की बात नहीं सुनता है जो इसे एक कारण या किसी अन्य के लिए तेज़ी से नाराज़ करते हैं, यह पूरी तरह से अधिक लोगों को अपनी सेवा को खोदने का जोखिम देता है। और इसीलिए खेद को समझना इतना महत्वपूर्ण है। अपने उत्पाद का उपयोग करने वाले लोगों को अनदेखा करना न केवल बुरी नैतिकता है, बल्कि यह व्यवसाय के लिए भी बुरा है।

Nir's नोट: जेसन अमुन्वा, राफेल अरिगागा वेका, अहमद बोजिद, जेमी किमेल, जूली ली, जेनिफर मैकडॉनल्ड, बो रेन, इरीना रिकु, जूलियन शापिरो, शेंन वोरोर, एनीमेरी वार्ड, सुसान वेन्सचेनक, गुथ्री वेन्सचेन, और केविन शुक्रिया। इस निबंध के संस्करणों को पढ़ना।