چگونه هوش مصنوعی را بدور از تعصب‌های انسانی نگه داریم
متن سخنرانی :
امروز چند تصمیم درباره شما، یا این هفته، یا امسال، توسط هوش مصنوعی گرفته شده؟ کار من ساختن هوش مصنوعی است رک بگویم از آن خوره‌ها هستم. و چون خوره هستم، هرجایی که خبر تازه‌ای بشنوم از اینکه هوش مصنوعیهمه کار‌هایمان را می‌دزدد، یا رباتها واقعا شهروند کشور می‌شوند، من کسی هستم که دوستان و هوادارانبه او پیغام می‌دهند و ترسشان از آینده را عنوان می‌کنند.این را همه جا می‌بینیم. این ترس رسانه‌ای که فرمان‌روایانرباتیک ما دارند پیروز می‌شوند. می‌شود هالیوود را بخاطرش سرزنش کرد. اما در واقع، این مشکلی نیستکه باید رویش تمرکز کنیم. یک خطر مهمتر وجود دارد،خطری بزرگتر با هوش مصنوعی، که باید اول تصحیحش کرد. پس به این سوال بر می‌گردیم: امروز هوش مصنوعیچند تصمیم درباره‌ات گرفته؟ و چند‌تای آنها بر مبنای جنسیت،نژاد یا پیشینه‌ات بوده؟
دائما از الگوریتم‌ها در تصمیم‌گیری از اینکه که هستیمو چه می‌خواهیم استفاده می‌شود. بعضی از خانم‌های حاضردر اینجا می‌دانند از چه صحبت می‌کنم اگر شما هم مجبور بودیدآن تبلیغات آزمایش بارداری را روزی هزار بار روی یو‌تیوب ببینید. یا اگر روزی تبلیغاتکلینیک‌های بارور‌سازی را روی فیس‌بوک دیده بودید. یا در مورد من دفتر‌خانه‌های ازدواج هندی‌ها
(خنده حضار)
اما از هوش مصنوعی فقط برای تصمیم گیری در باره اینکه چه محصولی بخریم یا کدام برنامه تلویزیونی رامی‌ببینیم استفاده نمی‌شود. دوست دارم احساس شما را در موردکسانی که به این چیزها فکر کرده‌اند بدانم: «سیاه‌پوست‌ها یا لاتین تبار‌ها کمتر احتمال دارد تا وامشان راسر وقت تسویه کنند.» «کسی که نامش جان باشداحتمالا برنامه نویس بهتری است از کسی که نامش مِری است.» «یک مرد سیاه احتمال بیشتری داردکه یک جرم را چند بار مرتکب شود.» احتمالا فکر می‌کنید که، «عجب، خیلی جنسیتی،و تبعیض گرایانه است،» درسته؟ این‌ها واقعا تصمیم‌هایی استکه هوش مصنوعی همین اخیرا گرفته است، بر مبنای تمایلاتی که از ما یاد گرفته، از انسانها. هوش مصنوعی برای کمک به تصمیم‌گیریبرای انجام یک مصاحبه شغلی استفاده می‌شده؛ چقدر برای بیمه ماشین پرداخت می‌کنی؛ رتبه اعتباری‌ات چقدر خوب است؛ و در بازبینی سالانه کارایی،چه رتبه‌ای می‌گیری. اما همه این تصمیم‌ها بر مبنای فرضیاتی در مورد هویت ما،نژاد ما، جنسیت ما و سن ما گرفته می‌شود. چطور اتفاق می‌افتد؟
فرض کنید که هوش مصنوعیمی‌خواهد به مدیر استخدامی کمک کند تا یک راهبر فنی دیگر برای شرکت پیدا کند. تا حالا این مدیر بیشترمردان را استخدام می‌کرده. پس هوش مصنوعی یاد گرفته که احتمال اینکهمردها برنامه نویس بشوند بیشتر است. و از اینجا تا مرحله بعد تنها یک قدم است: مردها از زنها برنامه‌نویس‌‌های بهتری هستند. ما هوش مصنوعی رابه تمایلات خودمان تجهیز کردیم. و حالا، او خودش کاندیدا‌هایزن را حذف می‌کند. ببین اگر یک مسئول استخداممرد این کار را می‌کرد، ناراحت می‌شدیم، اجازه نمی‌دادیم. این نوع از تبعیض‌های جنسیتی درست نیست. با این همه حالا، هوش مصنوعیاز قانون هم بالاتر رفته، چون ماشین تصمیم می‌گیرد. این تنها نیست.
ما در رابطه با هوش مصنوعیهم تمایلات خودمان را وارد می کنیم. معمولا چقدر از دستیار‌های صوتی مانندسیری، اَلکسا یا کورتانا استفاده می‌کنید؟ همه آنها دو چیز مشترک دارند: اول، هیچوقت اسمم را درست نمی‌گویند، و دوم، همه‌شان زن هستند. طراحی شده‌اند تا مطیع و خدمتگذارمان باشند، چراغ‌هایتان را خاموش روشن کنند،خریدتان را سفارش بدهند. هوش مصنوعی مذکر هم داریم،اما قرار بوده تا قوی‌تر باشند، مثل واتسون از آی بی ام،که تصمیم‌های تجاری می‌گیرد، انیشتین از سیلزفورس،یا راس که وکیل ربات است. بیچاره رباتها، حتی آنها هم دچارتبعیض جنسی شغلی هستند.
(خنده حضار)
حالا فکر کنید که چطور این دو با هم ترکیب می‌شوند و روی کودکی که در جهان اطرافهوش مصنوعی بزرگ می‌شود اثر می‌گذارند. تحقیقی روی یک پروژه در مدرسه انجام شده و آنها عکس مدیر عامل رابا گوگل جستجو کرده‌اند. و الگوریتم به آنها بیشترتصویر مردان را نشان داده است. بعد آنها دستیار شخصی رابا گوگل جستجو کردند. و همانطور که حدس می‌زنید،بیشتر تصویر زنها را نشان می‌دهد. بعد خواستند تا موسیقیپخش کند و غذا سفارش بدهند، و حالا دارند سر دستیارصوتی زن داد می‌زنند. این فناوری‌ها را بعضی از درخشان‌تریناندیشمندان ما خلق می‌کنند. فناوری که می‌توانستندبه هر شکلی که می‌خواهند خلق کنند. اما خواستند تا آن را به شکل منشی‌هایسریال «مَد من» دهه ۱۹۵۰ بسازند. چه عالی!
اما نگران نباشید. قرار نیست صحبتم با گفتن اینکه ما به سوی ماشین‌های جنسیتی،نژاد پرستانه می‌رویم تمام شود. خبر خوب درباره هوش مصنوعیاینکه کاملا در اختیار خودمان است. ما باید ارزش‌های صحیح،اخلاقیات درست را به آن آموزش دهیم. می‌توانیم سه کار انجام دهیم. اول، می‌شود از تمایلات خودمان و تمایلات ماشین‌های اطرافمان آگاه باشیم. دوم، مطمئن شویم که گروهیبا افکار متنوع این فناوری را می‌سازند. و سوم، باید تجربیاتی متنوع برایشایجاد کنیم تا از آن یاد بگیرد. می‌توانم در دو مورد اولاز تجربه خودم برایتان بگویم. اگر کارتان فناوری باشد و شبیه مارک زاکربرگیا ایلان ماسک نباشید، کمی زندگی برایتان سخت است،توانایی‌هایتان زیر سوال است.
مثالی می‌آورم، مثل خیلی از برنامه نویس‌ها،اغلب عضو انجمن‌های آنلاین فناوری می‌شوم و اطلاعاتم را برای کمکبه دیگران به اشتراک می‌گذارم. فهمیدم که، اگر به عنوان خودم وارد شوم،با عکس خودم، اسم خودم، معمولا سوال‌ها یا نظراتیمثل این را می‌گیرم: «چرا فکر می‌کنی واجد شرایطصحبت در مورد هوش مصنوعی هستی؟» «چرا فکر می‌کنی کهیادگیری ماشینی را می‌دانی؟» پس من هم مثل شما، پروفایل جدیدی ساختم، و این دفعه به جای عکس خودم،عکس یک گربه با موتور جت را گذاشتم. و اسمی را انتخاب کردمکه جنسیتم را نشان ندهد. احتمالا فهمیده‌اید که به کجا می‌رسم، نه؟ خوب این بار، هیچکدام از آن پیام‌هایاز موضع بالا در مورد تواناییم را نگرفتم و واقعا توانستم کار‌هایی انجام دهم. و دوستان این خیلی بد است. من از ۱۵ سالگی روبات می‌سازم، و چندین مدرک در علوم رایانه دارم، و هنوز باید جنسیتم را مخفی کنم تا کارم جدی گرفته شود.
اینجا چه خبر است؟ آیا مردان در فناوری از زنان بهترند؟ تحقیق دیگری می‌گوید که برنامه نویسان زنی که مثلمن جنسیتشان را مخفی می‌کنند، برنامه‌هایشان چهار درصد بیشتراز مردان پذیرفته می‌شود. پس ربطی به استعداد ندارد. مربوط به نخبه‌گرایی در هوش مصنوعی است که می‌گوید یک برنامه نویسباید شکل خاصی باشد. کاری که واقعا باید انجام دهیمتا هوش مصنوعی را بهتر کنیم این است که آدمهایی با سوابقمتفاوت را کنار هم قرار دهیم. افرادی را می‌خواهیم که بتوانندبنویسند و داستان بگویند تا بتوانیم شخصیت‌های هوش مصنوعی را بسازیم. آدمهایی می‌خواهیم که مشکلات را حل کنند، آدمهایی می‌خواهیمکه با چالش‌های مختلف مواجه باشند و ما به افرادی نیاز داریم تا بگویندکه کدام مسائل واقعا باید حل شوند و کمک کنند تا راه‌هایی برایحل آنها توسط فناوری پیدا کنیم. چون، وقتی افرادیبا سوابق مختلف کنار هم قرار گیرند، وقتی چیزها را به شکل صحیحی بسازیم، دیگر محدودیتی نخواهیم داشت.
و می‌خواهم با صحبت در این باره تمام کنم. ربات‌های نژاد‌پرست کم شوند، ماشین‌هاییکه کار‌هایمان را می‌گیرند باید کم شوند -- و آنهایی که فناوری واقعابرایمان می‌آورد بیشتر شوند. درست است بخشی از انرژیدر دنیای هوش مصنوعی، در جهان فناوری صرف تبلیغاتی می‌شودکه در این جریان می‌بینید. اما بیشتر آن برای بهتر شدنجهان صرف می‌شود. به زنی باردار در جمهوریدموکراتیک کنگو توجه کنید، که باید ۱۷ ساعت تا نزدیکترینکلینیک زنان پیاده راه برود برای معاینه. چه می‌شد اگر می‌توانستتوسط تلفنش معاینه شود؟ یا فکر کنید هوش مصنوعیمی‌تواند چه کاری برای یکی از هر سه زن در آفریقای جنوبی که دچار خشونت‌هایخانوادگی هستند انجام دهد. اگر بلند صحبت کردن امن نباشد، می‌توانند از هوش مصنوعیبرای فعال کردن اخطار استفاده کنند، و راهنمایی مالی و قانونی بگیرند. این‌ها مثال‌هایی واقعی از پروژه‌هایی استکه افرادی، مثل خودم، با استفاده از هوش مصنوعی،همین حالا رویش کار می‌کنند.
مطمئنم که ظرف چند روز آینده داستانی خبری از تهدید وجودی اینکه، رباتها می‌آیند و کارهایتان رامی‌گیرند خواهیم داشت.
(خنده حضار)
و وقتی چیزی شبیه این اتفاق بیفتد، می‌دانم که همین پیامنگرانی از آینده را می‌گیرم. اما بی‌نهایت در مورد این فناوری مثبت هستم. این فرصتی برای تبدیل دوباره جهانبه مکانی خیلی بیشتر برابر است. اما برای این کار بایدبه شکلی صحیح آن را شروع کنیم. ما به افرادی با جنسیت‌ها،نژاد‌ها و سوابق مختلف نیاز داریم. نیاز داریم تا زنان سازنده باشند نه ماشین‌هایی که خواسته‌هایسازندگان را انجام می‌دهند. باید به دقت فکر کنیمکه چه چیزی به ماشین‌ها می‌آموزیم، چه اطلاعاتی به آنها می‌دهیم، تا آنها فقط اشتباهاتگذشته ما را تکرار نکنند. امیدوارم که بعد از رفتنمشما به دو چیز فکر کنید. اول، امیدوارم کهبه تمایلات امروز فکر نکنید. و بار بعدی که از روی تبلیغی عبور می‌کنید که فکر می‌کند شما بهکلینیک‌های باروری علاقه‌‌مندید یا وب‌سایت‌های شرط بندی، فکر کنید و بیاد آورید که همین تکنولوژی فرض می‌کندکه مرد سیاه‌پوست قانون‌شکن است. یا اینکه زنها احتمال بیشتری داردکه دستیار شوند تا مدیرعامل. و امیدوارم که به یادتان بیاوردباید کاری در موردش انجام دهیم.
و دوم، امیدوارم در باره این واقعیت فکر کنید که نیازی نیست تا ظاهری خاص یا سابقه‌ای ویژه درمهندسی یا فناوری داشته باشید تا هوش مصنوعی خلق کنید. که نیروی خالق العاده‌ایبرای آینده‌مان خواهد بود. نیازی نیست شبیه مارک زاکربرگ باشید. می‌توانید شکل من باشید. و این بر عهده همه ما در این سالن است تا دولت‌ها و شرکت‌ها را قانع کنیم تا فناوری هوش مصنوعی را برای همه بسازند، حتی آنهایی که مرزی هستند. و برای ما تا همه آموزش ببینند در مورد این فناوری فوق‌العاده آینده. چون اگر این کار را انجام دهیم، تازه تنها به لایه سطحی چیزی رسیده‌ایمکه با هوش‌مصنوعی می‌توانیم انجام دهیم.
متشکرم.
(تشویق حضار)
