دیمن هورویتز به دنبال «سیستم عامل اخلاق-مدار» است.

قدرت. این کلمهء است به ذهن خطور می‌کنه. ما فن‌آورانِ مدرن هستیم. داده‌های زیادی داریم، پس قدرت زیادی داریم. ما چه قدر قدرت داریم؟ صحنه‌ای از یک فیلم: «اینک آخرالزمان»-- فیلم فوق‌العاده‌ایه. باید قهرمان‌مون، کاپیتان هیلارد رو به دهانه‌ی رود نانگ برسونیم تا بتونه کلنل کرتز رو تعقیب کنه. قراره کاپیتان رو از راه هوایی به اون‌جا برسونیم و پایین بندازیمش. صحنه این طوریه: آسمان مملوء از هلیکوپترهایی که او رو حمل می‌کنن. و موسیقی بلند و شورانگیزی در پس‌زمینه وجود داره. یک موسیقی طوفانی: ♫دام دا تا دا دام♫ ♫دام دا تا دا دام♫ ♫دا تا دا دا♫ یک عالم قدرت. این همون قدرتیه که من در این سالن احساس می‌کنم. این قدرتیه که ما داریم به خاطر همه‌ی داده‌هایی که داریم.
بذارید یک مثال بزنم. با اطلاعاتِ تنها یک فرد چه کارهایی می‌تونیم بکنیم؟ با اطلاعات اون آقا چه کار می‌تونیم بکنیم؟ می‌تونم به سوابق مالی‌ت نگاه کنم. اون‌وقت می‌فهمم که قبض‌هاتو به موقع پرداخت می‌کنی یا نه. می‌فهمم شخص مناسبی برای وام دادن هستی یا نه. می‌تونم به سوابق پزشکی‌ت نگاه کنم، اون‌وقت می‌فهمم قلبِ‌ت هنوز می‌تپه یا نه-- می‌فهمم پیش‌نهاد بیمه به تو دادن کار مناسبیه یا نه. می‌تونم به الگوی کلیک کردنِ‌ت نگاه کنم. وقتی به وب‌سایتَ‌م میای، می‌دونم که قصدِ چه کاری رو داری، چون می‌دونم میلیون‌ها وب سایتی که قبلا" سرزدی چه سایت‌هایی بودن. و متأسفم که اینو می‌گم، تو مثل یه بازی‌کنِ پوکری. من با تحلیل داده‌ها می‌تونم قبل از این که کاری رو انجام بدی، پیش‌بینی کنم که می‌خوای انجامش بدی. می‌دونم چی دوست داری. می‌دونم کی هستی. و تازه اینا قبل از دیدن ایمیل‌ها یا تلفنِته.
این‌ها کارایی هستن که ما می‌تونیم با داده‌هایی که داریم انجام بدیم. ولی من این‌جا نیومدم که درباره‌ی کارهایی که می‌تونیم انجام بدیم صحبت کنم. اومدم تا درباره‌ی کاری که باید بکنیم صحبت کنیم. کارِ درست چیه؟
می‌بینم که نگاه‌هاتون متحیره، انگار دارید می‌گید: «چرا از ما می‌پرسی کار درست چیه؟ ما صرفا" سیستم رو می‌سازیم، یه نفر دیگه داره ازش استفاده می‌کنه.» منطقیه. ولی این منو برمی‌گردونه به گذشته. به جنگ جهانی دوم فکر می‌کنم. بعضی از فن‌آوران ما در اون زمان، بعضی از فیزیکدان‌هامون، که درباره‌ء شکافت و همجوشی هسته‌ای مطالعه می‌کردند -- همون مسائل هسته‌ای. ما این فیزیکدان‌ها رو در لوس آلاموس دور هم جمع می‌کنیم تا ببینیم چه چیزی خواهند ساخت. ما از سازنده‌گان تکنولوژی انتظار داریم به این که با این تکنولوژی چه کار باید کرد فکر کنند.
خوب حالا ما با اطلاعات اون شخص چه کار باید بکنیم؟ باید جمعشون کنیم تا بتونیم تجربه‌ء آنلاینِ او رو بهبود ببخشیم؟ تا پول بیش‌تری به دست بیاریم؟ تا اگه او خیالاتِ بدی داشت بهتر بتونیم از خودمون محافظت کنیم؟ یا این که به حریم خصوصی‌ش احترام بذاریم، شأنِ‌ش رو حفظ کنیم و راحتش بذاریم؟ کدومش درسته؟ از کجا بفهمیم؟
من می‌گم رأی‌گیری کنیم. اول بذارید برای دستگرمی، با یه سوال آسون شروع کنیم-- یه چیزی که مطمئنم همه یه نظری درباره‌ش دارن: آی-فون در مقابل اندروید. دست‌هاتونو بالا ببرید. آی-فون. آ-اوه. اندروید. آدم از افراد باذکاوتی مثل شما انتظار داره ولعِ گوشی‌های صرفا" خوشگل رو نداشته‌باشن! (خنده‌ی حضار) سوال بعدی، یه کم سخت تره. آیا ما باید همه‌ی داده‌های مربوط به اون شخص رو جمع کنیم تا تجربه‌ش رو بهبود ببخشیم و در صورتی که او خیالاتِ بدی داره از خودمون محافظت کنیم؟ یا باید راحتش بذاریم؟ اطلاعاتِ‌ش رو جمع کنیم. راحتش بذاریم. کاری‌تون ندارم! نتایج خوب بود. (خنده) خوب، سوال آخر-- سوال سخت‌ تریه. وقتی می‌خوایم گزینه‌هامونو درباره‌ی سوال قبلی ارزیابی کنیم، آیا باید از چهارچوب اخلاقیِ وظیفه‌گرایانه‌ی کانت استفاده کنیم، یا از چهارچوب نتیجه‌گرایانه‌ی میل؟ کانت. میل. چندان نظری ندارید. (خنده‌ی حضار) بله، این نتیجه وحشت‌ناکه. وحشت‌ناکه، چون دیدگاه‌هامون درباره‌ی دست‌گاه‌هامون بیش‌تر شکل گرفته تا درباره‌ی چهارچوب اخلاقی‌‌ای که تصمی‌گیری‌هامونو هدایت می‌کنه.
اگه چهارچوب اخلاقی مشخصی نداشته‌باشیم از کجا بفهمیم که از قدرتِ‌مون چه طور استفاده کنیم؟ ما درباره‌ی سیستم عامل‌های موبایل بیش‌تر می‌دونیم، ولی چیزی که واقعن به‌ش نیاز داریم یک سیستم عامل اخلاق-مداره. سیستم عامل اخلاق-مدار چیه؟ ما همه خوب و بد رو می‌شناسیم. درست. وقتی کار خوبی می‌کنیم حس خوبی داریم، و وقتی کار بدی می‌کنیم حس بدی داریم. پدر و مادرهامون این رو به‌مون یاد می‌دن: تحسین به خاطر کار خوب و سرزنش به خاطر کار بد. ولی از کجا بفهمیم چی خوبه و چی بد؟ در زنده‌گی روزمره این تکنیک‌ها رو استفاده می‌کنیم: گاهی به حسّ‌مون تکیه می‌کنیم. گاهی رأی‌گیری می‌کنیم. یا شاید به مراجع قانونی مراجعه کنیم و ببینیم چی می‌گن. به عبارت دیگه، روش ما برای پیدا کردنِ کاری که باید بکنیم، به نوعی تصادفی یا وابسته به شرایطه. یا شاید، اگه بخوایم خیالِ‌مون راحت‌تر باشه، واقعا" به یک چهارچوب اخلاقی نیاز داریم که راهنمایی‌مون کنه، و بهمون بگه که در درجه‌ء اول چه چیزهای درست و غلط هستند، و از کجا بفهمیم که در یک وضعیت خاص چی کار کنیم.
پس بیاید یک چهارچوب اخلاقی پیدا کنیم. ما آدم‌های عددی هستیم، با اعداد زندگی می‌کنیم. حالا چه طور به عنوان اساس چهارچوب اخلاقی‌مون از اعداد استفاده‌ کنیم؟ من کسی رو می‌شناسم که دقیقا" این کار رو کرد، واقعا" مرد باهوشی بود. او 2500 ساله که مرده. پلاتو، درسته. اونو به یاد میارید؟ فیلسوفِ پیر؟ سر اون کلاس خوابیده‌بودید. و پلاتو، دغدغه‌هایی داشت که دغدغه‌های ما هم بودند. او دغدغه‌ی درست و غلط رو داشت. می‌خواست بدونه عدالت چیه. اما نگرانی او این بود که به نظر می‌رسه ما داریم نظراتِ مون رو در این زمینه معامله می‌کنیم. یه نفر می‌گه این کار عادلانه‌ست، دیگری می‌گه یه کار دیگه عادلانه‌ست. و هر دوشون به شکل قانع‌کننده‌ای از خودشون دفاع می‌کنن. من فقط عقب و جلو می‌رم و درجا می‌زنم. به جایی نمی‌رسم. من نظرات رو نمی‌خوام، من دانش می‌خوام. من می‌خوام حقیقتِ عدالت رو بدونم-- همون طور که حقایقی در ریاضیات داریم. در ریاضیات، ما واقعیت‌ها رو می‌دونیم. یه عدد در نظر بگیرید، هر عددی-- دو. عدد موردعلاقه‌ی من. عاشقِ این عددم. حقایقی درباره‌ی دو وجود داره. اگه دو تا از یک چیز داشته‎‌ باشین، اگه دو تا دیگه بهش اضافه کنید، چهارتا می‌شه. این حقیقته و ربطی به چیزی که داری درباره اس می گویی ندارد. این یک حقیقت درباره‌ی دو است. شکل کلیِ دو. وقتی شما دوتا از هرچیزی دارید-- دو چشم، دو گوش، دو بینی، دو تا برآمده‌گی-- این‌ها همه در شکل دهی به دو شرکت دارند. همه در حقیقتِ دو شرکت دارند. همه‌ی این‌ها، «دو بودن» رو در خودشون دارند. بنابراین، این ربطی به نظرات نداره.
پلاتو فکر کرد، چی‌ می‌شه اگه اخلاق هم همین طور باشه؟ چی می‌شه اگه یک شکل مطلق از عدالت وجود داشته‌باشه؟ شاید حقایقی درباره‌ی عدالت وجود دارند، و ما می‌تونیم به اطرافِ‎ مون نگاه کنیم و بفهمیم چه چیزهایی در این حقایق شرکت دارند، و به اون‌ها شکل می‌دهند؟ این طوری می‌فهمیدیم که واقعا" چی عادلانه‌ ست و چی نیست. اون وقت دیگه ربطی به نظرات یا ظواهر امور نداشت. دیدگاه شگفت‌انگیزیه. منظورم اینه که، بهش فکر کنید. چه قدر بزرگ. چه قدر بلندپروازانه. بلندپرواز، مثل ما. او می‌خواد راه حلی برای اخلاق پیدا کنه. به دنبال حقائق مطلقه. اگر این طوری فکر کنیم، یک چهارچوبِ اخلاقیِ پلاتویی داریم.
اگر این طوری فکر نکنیم، خوب، در این صورت در فلسفه‌ی غرب خیلی ها با ما موافق هستند. چون این ایده خیلی تروتمیزه-- دیگران ازش انتقاد کردند. مخصوصا" ارسطو اصلا" از این ایده خوشش نیومد. چون فکر می‌کرد عملی نیست. ارسطو می‎گفت «در هر موضوع، ما تنها به اندازه‌ای دقت دست می‌یابیم که خودِ موضوع بهمون اجازه می‌ده». ارسطو فکر نمی‌کرد شباهت زیادی بین اخلاق و ریاضیات وجود داره. او فکر می‌کرد موضوعِ اخلاق، تصمیم‌گیری در شرایط فعلی با استفاده از بهترین داوری برای پیدا کردنِ راه درسته. اگر شما این طور فکر می‌کنید، پلاتو طرفِ شما نیست. اما هنوز تموم نشده. شاید راه دیگه‌ای وجود داره که بتونیم اعداد رو مبنای چهارچوب اخلاقی‌مون قرار بدیم.
این یکی چه طوره: شاید بتونیم توی هر وضعیتی حساب و کتاب کنیم، به گزینه‌هامون نگاه کنیم، بسنجیم که کدوم بهتره و بفهمیم که چی کار بکنیم. آشنا به نظرتون میاد؟ این یک چهارچوب سودگرایانه‌ست. جان استوارت میل طرفدار بزرگِ این چهارچوب بود-- مرد خوبی هم بود-- و فقط 200 ساله که مُرده. پس اساسِ سودگرایی-- مطمئنم که یه چیزهایی درباره‌ش شنیدید. اون سه نفری که به میل رأی دادند حتما" می‌دونند که این چهارچوب این طوریه: یک کار اخلاقیه اگر لذت رو به حداکثر برسونه، و رنج رو به حداقل. به ذات اون کار بستگی داره. نه به ارتباطش با یک مطلقِ خارجی. فقط به عواقب اون کار بستگی داره. فقط به عواقب توجه می‌کنی و تصمیم می‌گیری که جمعا" به نفعه یا به ضرر. ساده‌ست. این طوری می‌فهمیم که چی کار کنیم.
بیاید به یه مثال بپردازیم. فرض کنید که من بگم «می‌خوام تلفن شما رو بگیرم». نه به خاطر این که زنگ زد، بلکه چون من کمی حساب و کتاب کردم. فکر کردم که این آقا مشکوک به نظر می‌رسه. شاید داشته به بن لادن پیغام می‌داده-- یا به هر کسی که بعد از بن لادن کارها رو دست گرفته-- و در واقع این آقا تروریست به نظر میاد. من باید مطمئن بشم. و اگر حدس من درست باشه، جلوی خسارت بزرگی که اون آقا می‌تونست ایجاد کنه گرفته شده. جلوگیری از اون خسارت سود خیلی بزرگیه. و در مقایسه با رنج کوچیکی که این کار ایجاد می‌کنه-- چون به هر حال خجالت‌آوره که من تلفن اونو نگاه کنم و بفهمم که با فارم ویل درگیره-- این رنج کوچک، در مقابل سودِ نگاه کردن به تلفن، اصلن به چشم نمیاد. اگر شما چنین حسی دارید، انتخابِ شما سودگرایانه‌ست.
اما شاید چنین حسی نداشته‌باشید. شاید فکر کنید اون صاحب تلفنه. گرفتن تلفنش کار نادرستیه، چون اون یک انسانه و حقوق و حریمی داره، و ما نمی‌تونیم این قدر ساده به حریمِ‌ش تجاوز کنیم. اون اختیار خودشو داره. مهم نیست محاسباتِ ما چی می‌گن. بعضی چیزها ذاتن نادرست هستند-- مثلن دروغ نادرسته، مثلن شکنجه‌ی کودکان معصوم نادرسته. کانت اینجا حرف خوبی می‌زنه. التبه خودش کمی بهتر از من بیانش کرده. او می‌گه ما باید با استفاده از استدلال قوانینی رو بفهمیم که باهاشون رفتارمون رو هدایت کنیم. بعد از اون، وظیفه‌ی ماست که از اون قوانین پیروی کنیم. به محاسبات ربطی نداره.
خوب دیگه کافیه. حالا ما در قلب جنگلِ فلسفه هستیم. و این تا هزاران سال ادامه داره، چون این‌ها سوال‌های سختی هستند، و من فقط پانزده دقیقه وقت دارم. بریم سر اصل مطلب. چه طور تصمیم‌گیری کنیم؟ پلاتو خوبه، یا ارسطو، یا کانت، یا میل؟ چه کار کنیم؟ پاسخ چیه؟ کدوم فرمول می‌تونه در هر موقعیتی، کار درست رو مشخص کنه، و بگه که آیا ما باید از اطلاعات اون شخص استفاده کنیم یا نه؟ اون فرمول چیه؟ هیچ فرمولی وجود نداره. پاسخ ساده‌ای به این سوال وجود نداره.
اخلاق سخته. اخلاق مستلزم فکر کردنه. و ای کار سخته. می‌دونم، بخش عمده‌ی شغل من مربوط به هوش مصنوعیه، در تلاش برای ساختن ماشین‌هایی که بتونن کمی به جای ما فکر کنند، و بتونن جواب‌هایی به ما بدن. ولی نمی‌تونن. نمی‌شه همین طوری تفکر انسان رو برداشت و در یک ماشین قرار داد. ما خودمون باید این کار رو بکنیم. خوشبختانه ما ماشین نیستیم و می‌تونیم این کار رو بکنیم. ما نه تنها می‌تونیم فکر کنیم، ما باید( فکر کنیم ). هانا آرنت می‌گه: «حقیقتِ تلخ اینه که بیش‌تر کارهایی بدی که در دنیا انجام می‌شه به دست آدم‌هایی اتفاق میفته که قصدِ بدی ندارند. و این نتیجه‌ی فکر نکردنه.» اون اسم این رو «پیش‌پاافتاده‌گیِ بدی» می‌ذاره. و پاسخش اینه که از هر انسانِ باشعوری انتظار فکر کردن داشته‌باشیم.
خوب بیاید این کارو بکنیم. بیاید فکر کنیم. بیاید همین الان شروع کنیم. همه‌ی حضار این کار رو بکنند: به آخرین باری که می‌خواستید تصمیم‌گیری کنید فکر کنید آخرین باری که دغدغه‌ی انجام کار درست رو داشتید، و از خودتون پرسیدید که «چی کار باید بکنم؟» اون موقعیت رو به یاد بیارید. و حالا بهش فکر کنید. از خودتون بپرسید: «چه طور اون تصمیم رو گرفتم؟ چی کار کردم؟ از حسَّ‌م پیروی کردم؟ رأی‌گیری کردم؟ یا به قانون مراجعه کردم؟» البته حالا چندتا گزینه‌ی دیگه هم داریم. «آیا محاسبه کردم تا ببینم کدوم کار بیشترین لذت رو داره مثل کاری که میل کرد؟ یا مثل کانت، استدلال کردم تا بفهمم چه کاری ذاتن درسته؟» بهش فکر کنید. سعی کنید به یادش بیارید. مهمه. اون قدر مهمه که می‌خوایم 30 ثانیه از وقت ارزشمند تد تاک رو فقط به این فکر کنیم. آماده‌اید؟ شروع کنید.
کافیه. خسته نباشید. کاری که الان شما کردید، اولین قدمه برای پذیرفتنِ مسئولیتِ کاری که می‌تونیم با این همه قدرتِ‌مون انجام بدیم.
حالا قدمِ بعدی-- اینو امتحان کنید. برای یکی از دوست‌هاتون توضیح بدید که چه طور اون تصمیم رو گرفتید. الان نه. صبر کنید حرف‌های من تموم شه. موقع ناهار این کار رو بکنید. دوستی که برای این کار انتخاب می‌کنید، مثل خودتون فنّی نباشه. کسی رو انتخاب کنید که با شما فرق داشته‌باشه. یه هنرمند یا نویسنده-- یا، خدای ناکرده، یه فیلسوف بهتره. در واقع، سعی کنید رشته‌ش علوم انسانی باشه. چرا؟ چون اون‌ها نگاه‌شون به مسائل با نگاهِ ما فنّی‌ها فرق داره. همین چند روز پیش، دقیقا" اون طرف خیابون، صدها نفر تجمع کرده‌بودند. فنی‌ها و علوم انسانی‌ها برای کنفرانس بیبلیوتک اومده‌ بودند. اونا دور هم جمع شده‌بودند چون فنی‌ها می‌خواستند بدونند فکر کردن از چشم‌انداز به علوم انسانی چه طوریه. فرض کنید یک نفر از گوگل با یک نفر در رشته‌ی ادبیات قیاسی صحبت می‌کنه. حتما" دارید فکر می‌کنید که تئاتر قرن ۱۷ فرانسه چه ربطی به سرمایه‌گذاری داره؟ این طوری جالب می‌شه. این یک طرز تفکرِ متفاوته. و وقتی این طوری فکر کنید، نسبت به ملاحظات انسانی که در تصمیم‌گیری‌های اخلاقی نقش مهمی دارند، حساس‌تر می‌شید.
همین حالا تصور کنید که پیش دوستِ موسیقی‌دانتون می‌رید. و این حرف‌ها رو براش توضیح می‌دید، انقلاب اطلاعات و بقیه‌ی چیزها-- و شاید کمی هم موسیقی متنمون رو براش بزنید. ♫ دام تا دا دا دام دام تا دا دا دام ♫ دوست موسیقی‌دانتون می‌پره وسط آهنگ و می‌گه «می‌دونی؟ موسیقی متن برای انقلاب اطلاعاتی شما، یه اپراست. ونگره. اساسش افسانه‌ی نورسه. به الهه‌ها و موجودات اسطوره‌ای می‌خوره که برای جوهرات جادویی با هم می‌جنگن» جالبه. حالا قضیه به یه اپرای زیبا هم تبدیل شد. و ما با این اپرا انگیزه می‌گیریم. انگیزه می‌گیریم،‌ چون داستان، داستانِ جنگ بین خوبی و بدی و درست و غلطه. و ما به درست و غلط اهمیت می‌دیم. برامون مهمه که در اون اپرا چه اتفاقی می‌افته. برامون مهمه که در «اینک آخرالزمان» چه اتفاقی می‌افته. و مخصوصن برامون مهمه که در فناوری‌مون چه اتفاقی می‌افته.
ما امروز خیلی قدرتمندیم. تصمیم با خودمونه که چی کار کنیم. و این خبر خوبیه. ما این اپرا رو می‌نویسیم. این فیلمِ ماست. ما تعیین می‌کنیم که برای این فناوری چه اتفاقی می‌افته. ما تعیین می‌کنیم که آخر قصه چی می‌شه.
متشکرم.
(تشویق حضار)