ویدیوهای کابوسوار یوتیوب برای کودکان — و دردسرهای امروزه اینترنت
(خنده)
و این کارها را برای این انجام میدهمکه برایم خیلی جالبند، و فکر میکنم که وقتی درباره فناوریحرف میزنیم در واقع عمدتا درباره خودمان و نحوه درک خود از جهان اطراف صحبت میکنیم. خوب، داستانی از فناوری را تعریف میکنم.
این ویدئویی درباره تخم مرغ شانسی است. در واقع این ویدئو شخصی است کهکلی تخم مرغ شانسی را باز کرده و اسباببازی داخل آن را نشان بیننده میدهد. فقط همین. این کل چیزی است که طی ۷ دقیقه انجام میدهد. و از شما می خواهم که به دو چیزدر مورد این ویدئو توجه کنید. نخست، این ویدئو۳۰ میلیون بار دیده شده است.
(خنده)
و مورد بعدی این که، این ویدئو از کانالی است که ۶/۳ میلیون عضو دارد، که در مجموع ۸ میلیارد بازدید شده است. و ویدیوهای مشابه اینطوری زیادند-- ۳۰ میلیون نفر به تماشای شخصی که درحال بازکردن تخم مرغ شانسی است نشستهاند. بنظر عجیب است، اما اگر در یوتیوب تخم مرغ شانسی را جستجو کنید، متوجه خواهید شد که ۱۰ میلیوناز این ویدئوها وجود دارد، که فکر میکنم این رقم بسیار بسیار بالاتر باشد. با ادامه جستجو متوجه میشوید که پایان ندارد. میلیونها میلیون از این ویدئوها که ترکیب عجیب و غربی از برندها و مواد هستند وجود دارد. و هرروز هم تعداد بیشتری بارگذاری میشوند. دنیای عجیبی است. نه؟
اما مساله این است که که مخاطب این ویدئوها بزگسالان نیستند، بلکه کودکان هستند. این ویدئوها مثل هروپین برای کودکان است. این تکرار ویدئوها مانند ترشح دوپامین، آنها را گیر میاندازد. و کودکان این ویدئوها را بارها و بارها و بارها و ساعتها و ساعتها تماشا میکنند. و اگر آنها را از این کار باز دارید، جیغ و فریاد خواهند کرد. اگر حرفم را باور ندارید-- و بعضی از شما را میبینم که سر تایید تکان میدهید-- اگر باور ندارید، افرادی کهبچه دارند را پیدا کنید و از آنها بپرسید تا به شما دربارهاین تخممرغ شانسیها بگویند. خوب این شروع کار ما است. سال ۲۰۱۸ است، و اشخاص یا خیلی از مردم از ابزارهایی شبیه فیسبوک و اینستاگرم استفاده می کنند تا شما را وادار به چک کردن آن اپلیکیشن کنند، و از آن در یوتیوب استفاده میکنند تا مغز کودکان را برای درآمد ناشی از تبلیغات شستشو دهند.
حداقل، کاری استکه امیدوارم انجام دهند. امیدوارم دنبال این باشند، بدلیل اینکه راههای ساده تری برای کسب درآمد از تبلیغ در یوتیوب وجود دارد. شما میتوانید محتوا تولید کنید یا بدزدید. بنابراین اگر دنبال کارتونهای واقعا مشهور کودکان مثل «پپاپیگ» یا «پاو پترول» باشید، میلیونها و میلیونها از اینها را نیز انلاین پیدا کنید. البته بیشتر آنها توسط خالقشان پست نشدهاند. بلکه توسط بسیاری از حسابهای مختلف هستند که پیدا کردن و پی بردن به انگیزهشان غیرممکن است. آیا به نظرتان آشنا نیست؟ چون همان مکانیزمی است که در بیشتر سرویسهای دیجیتال استفاده میشود، که غیر ممکن است بتوان منبع را یافت. اساسا اخبار دروغ برای کودکان هستند، و ما نیز از بدو تولد به کودکان میآموزیم که روی اولین لینکی که میبینندکلیک کنند، بدون توجه به منبع آن. به نظر ایده جالبی نمیآید.
از برنامههای محبوب دیگر برای کودکان در یوتیوب، ترانه خانواده انگشتی است. ناله یکی از حضار را شنیدم. این ترانه خانواده انگشتی است. یکی از اولین نمونهها که پیدا کردم. سال ۲۰۰۷ ساخته شده، و فقط ۲۰۰٫۰۰۰ بار دیده شده است، که رقم بسیار پایینی است. اما نوای بسیار گوش نوازی دارد، که نمیخواهم اینجا پخش کنم، چون کرم مغز شما خواهد شد همانطور که برای من اتفاق افتاد. و نمیخواهم برای شما تکرار شود. اما همانند تخم مرغ شانسی، داخل مغز کودکان نفوذ کرده و آنها را معتاد کرده است. بنابراین بزودی، ویدئوهای خانواده انگشتی همه جا ظاهر شدند، و به زبانهای مختلف با کارتونهای مشهور کودکان با استفاده از غذا یا راستش هر عنصر انیمیشنی موجود در اطراف خواهد بود. میلیونها میلیون از این ویدئوها با ترکیبهای متفاوت روی اینترنت موجود است. و هرقدر وقت بیشتری با آنها صرف کنید، احساس دیوانگی بیشتری خواهید داشت.
و این جا است که من به اینموضوع علاقهمند شدم، احساس غریبگی عمیق و درک ناقص چگونگی تولید آن من را احاطه کرده بود. چون غیرممکن است که بدانیداین چیزها از کجا میآیند؟ مثلا سازندهشان کیست؟ بعضی از آنها توسط تیمی از انیماتورهایحرفهای ساخته شدهاند. بعضی از آنها توسط نرمافزار سرهم شدهاند. بعضی از آنها سرگرم کنندههای سالمیبرای کودکان هستند. اما بعضی را افرادی تهیه میکنند که به هیچ عنواننباید اطراف کودکان باشند.
(خنده)
و دوباره، این عدم امکان فهمیدن منبع ساخت این ویدئوها است-- مثل این که بات باشد؟ یا شخص و یا ترول؟ این یعنی ما نمیتوانیم تفاوت بین اینها را دیگر بیابیم؟ و دوباره، آیا این عدم اطمینان آشنا نیست؟
بنابراین اصلیترین راهیکه این ویدئوها بازدید شوند، و یادتان باشد، بازدید یعنی پول -- این است که نامهای معروفبرای آنها انتخاب شود. مثل تخم مرغ شانسی و بعد افزودن نامهای دیگر، مثل پاوپاترول،تخم مرغ عید پاک، یا هر چیز دیگری که هست، همه اینها از ویدئوهای محبوب در عنوان میآید تا که ملغمه بیسروتهای از کلمهها سرهم شود که برای انسانها مفهومی ندارد. چون البته که بچههای کوچک تنها تماشاچیاین ویدئوها هستند و آنها هم از همه جا بیخبرند. مخاطب حقیقی شما برای این محتواهانرمافزارها هستند. الگوریتمها. نرمافزاری که یوتیوب استفاده میکند تا انتخاب کند کدام ویدئوها مثل سایر ویدئوها هستند، کدام را محبوب کند،کدام را توصیه کند. و برای همین به آن ملغمه کاملابیسر و ته ختم میشود، هم در محتوا و هم در عنوان.
اما نکتهای که باید به خاطر بسپارید: واقعا هنوز بین این سیستم الگوریتمیبهینه شده آدمهایی هستند که به طرز فزایندهای وادارشدهاند این ترکیب رو به رشد غریب از واژهها، مثل هنرمند بداههپرداز مستاصلی که به فریادهای یکی شده میلیونها کودک نوپا هم زمان جواب دهد. آدمهای واقعی در این سیستمها به دام افتادند، و این چیز واقعا عجیب دیگری است درباره فرهنگ نشات گرفته از الگوریتم، چون حتی اگر انسان باشی، براب بقاء داشتن باید دست آخر مثل ماشین رفتار کنی.
و هنوز در آن سوی پرده این خردسالان هستند که این محتوا را میبینند، در حالی که کل توجه آنها بااین مکانیزمهای عجیب جلب میشود. و اکثر این کودکان حتی برای استفادهاز یوتیوب خیلی کوچکند. با دستهای کوچک خود به صفحه میکوبند. و خب این پخش خودکار هست، که به پخش این ویدئوها پشت سر هم در این بدون وقفه برای ساعتهای متوالی ادامه میدهد. و الان در سیستم چنان چیزهایی غریبی هست که حالت پخش خودکار شما رابه جاهای عجیب میبرد. اینطوری است که طی چند مرحله میتوانید از یک ویدئوی بامزه از قطار شماری به میکیموسی برسید که خودارضایی میکند. بله. متاسفم درباره آن. تازه بدتر هم میشود. اتفاقی که میافتد این است وقتی همه این کلیدواژههای مختلف، همه این تکههای مختلف توجه، این نسل متاصل محتوا، همه در یک جا گرد میآید. اینجاست که همه آن کلیدواژههای عمیقا عجیب تاوان این ندانم کاری را میدهند. ویدئوی خانواده انگشتی را با برخی چیزهای ابر-قهرمانی زنده پیوند میزنید، به آن امثال شوخیهای ترولیوار عجیب را اضافه میکنید و ناگهان راستش از جای عجیبیسر در میآورید.
چیزهایی که موجب برافروختگی والدین میشود بنوعی حاوی محتوا خشونت آمیز یا جنسی هستند،درست است؟ کارتونهای کودکان که مورد آزار قرار میگیرند، کشته میشوند، شوخیهای عجیب که در واقعکودکان را میترساند. آنچه دارید نرمافزاری است همه انواعاین تاثیرات مختلف را گرد میآورد تا بطور خودکار بدترین کابوسهایکودکان را تولید کنند. و این چیزها واقعا واقعا روی بچههایکوچک تاثیر میگذارد. والدین از آسیبهای روحی فرزندان خودگزارش میدهند، ترسیدنشان از تاریکی، ترسیدنشان از شخصیتهای محبوب کارتونی خود. اگر قرار به کار بردن یک نکته باشید بچههای کوچک را از یوتیوب دور نگه دارید.
(تشویق)
اما نکته دیگری که واقعامن را درگیر خودش کرده این است که من مطمئن نیستم ما حتی واقعابفهمیم چطور به این نکته رسیدیم. ما همه تاثیرات این چیزها را لحاظ کردهایم و چنان ملغمهای درست کردهایمکه کسی واقعا قصدش را نداشته است. و هنوز با این روش بهساخت دنیا ادامه میدهیم. همه این دادهها را بر میداریم، کلی دادههای بد، کلی دادههای تاریخی سرشار از تعصب، سرشار از بدترین محرکهای ما در تاریخ، و ما از آنها مجموعهایعظیم از دادهها میسازیم و بعد آنها را خودکار میکنیم و آنها در قالب گزارشهای اعتباری، به حق بیمه و چیزهایی مثل سیستمهای سیاستگذاری پیشگویانه، وخط مشیهای محکوم کننده ترکیب میکنیم. این دقیقا همان روشی است که ماجهان امروز را از دادهها میسازیم. و نمیدانم که کدام بدتر است، که سیستمی بسازیم که ظاهرا برای بدترین زوایای رفتار بشر بهینه باشد یا که ظاهرا این کار را انجام داده ایم، آن هم ندانسته، چون واقعا سیستمهایی که میساختیم را نمیفهمیدند، و واقعا نمیفهمیدیم چه کارمتفاوتی با آن انجام دهیم.
فکر میکنم چند مورد هست که واقعا به نظر میرسد که با تمام قدرت در یوتیوب محرک هستند، و اول از همه تبلیغات است، که از توجه پول در میآورد بدون هیچ متغیر واقعی دیگری دراین بین، بدون توجه به آدمهایی که در واقع این محتوا را تولید میکنند، متمرکز کردن قدرت، تمایز دادن این چیزها. و اگر چه شاید این حس را داشته باشیدکه استفاده از تبلیغات بنوعی برای حمایت از چیزهاست، تصویر مردان بالغ در پوشک که در ماسه میغلتند به امید الگوریتمی که آنها واقعا نمیفهمند پول برای آن میدهند نشان میدهد که این شاید چیزی نیست که باید اجتماع و فرهنگ خود را بر پایه آن بگذاریم، و روش سرمایهگذاری ما در آن.
و نکته دیگر این است که محرک دیگر اصلی برای آن اتوماسیون است که بکارگیری انواع این فناوریها است و وقتی بدون هیچ دوراندیشی عرضه میشوند و قابل دسترس میشوند، مثل این میماند که دست در هوا تکان داده و بگوییم، «کار ما نیست. تقصیر فناوریه.» یا «ما که دخالتی نداریم.» که واقعا به حد کافی خوب نیست، چون این چیزها صرفا اگوریتمیمدیریت نمیشوند، بلکه الگوریتمی هم سیاستگذاری میشوند. وقتی یوتیوب اولین بار شروع به توجه کردن به این کرد، اولین کاری که گفتند در این بارهانجام دادند به کارگیر الگوریتمهای بهتریادگیری ماشین بود برای تعدیل محتوا. خب، یادگیری ماشین، همانطور هر متخصصفعال در آن به شما خواهد گفت، اساسا چیزی را نرمافزار نامیدیم که درک واقعی از کارکردش نداریم. و فکر کنم الان بحد کافی از آن داریم. نباید اینها را برایتصمیمگیری درست یا غلطی به هوش مصنوعی محول کرد، چون میدانیم چطور میشود. بقیه چیزها را سانسور میکند. محتوا دگرباشها را سانسور خواهد کرد. سخنرانیهای عمومی مشروع را سانسور میکند. محتوای مجاز در این گفت و شنودها نباید به سیستمهای بازخواست نشدنی محول گردد. باید بخشی از بحثی باشد که همهما مشارکت داریم.
اما بگذارید یادآوری کنم که جایگزین حتی خیلی دلچسب هم نیست. یوتیوب اخیرا اعلام کرد که قصد انتشار نسخهای از برنامه کاربردی کودکان را دارند که تماما از سوی انسانها اداره میشود. فیسبوک -- زوکربرگ تقریبا چیزیمشابه را در کنگره گفت، وقتی درباره نحوه تعدیل محتوایشان تحت فشار قرار گرفت، گفت آدمها را برای انجامش دارند. و معنی واقعی آن این است که بجای داشتن نوپاهایی که اولین بینندهاین برنامهها باشند، کارکنان قراردادی متزلزل کم درآمد فاقد حمایت سلامت روان مناسب را خواهید داشت که از آن آسیب هم در امان نمیمانند.
(خنده)
و فکر میکنم میتوانیم عملکردبهتری داشته باشیم.
(تشویق)
به اعتقاد من چیزی که بتواند این دو راواقعا یکجا داشته باشد برای شخص من نمایندگی است. مثلا چقدر ما واقعا می فهمیم-- چطور میدانیم که چطور در جهت نفع اعلای خود عمل کنیم. که-- تقریبا انجامش در این سیستمهایی که واقعا کامل نمیفهمیم غیرممکن است. نابرابری در قدرت همواره منتهی به خشونت میگردد. و میبینیم که داخل این سیستمها که نابرابری از فهمنیز همین کار را میکند. اگر برای شروع چیزی باشدکه برای بهبود این سیستمها انجام دهیم، که آنها را برای کاربرهایآنها خواناتر کند، بنابراین همه ما درک مشترکیاز آنچه واقعا رخ میدهد داریم.
چیزی که اگر چه فکر میکنم درباره اکثر این سیستمها اینطور نیست که البته امیدوارم به درستیدرباره یوتیوب آن را درست توضیح داده باشم. شامل همه چیز است. این مسائل مسئولیتپذیری و پویایی، ابهام و پیچیدگی، خشونت و استثمار که ذاتا منجر به تمرکز قدرت در دستانی معدود میشوند -- اینها مسائل خیلی خیلی بزرگتری هستند. و اینها صرفا مسائل یوتیوب و فناوری در کل نیستند، و حتی چیز تازهای نیستند. سالها با ما بودهاند. اما سرانجام این سیستم را ساختیم،این سیستم جهانی، اینترنت، که در واقع آنها را به شیوهایخارقالعاده نشان میدهد، آنها را غیرقابل انکار میکند. فناوری این ظرفیت خارقالعاده را دارد که همه آن استثناییترین تعصبهاو امیال ما که اغلب پنهان هستند را معرفی کرده و ادامه میدهد و آنها را در این دنیا رمزگذاری میکند، اما همچنین آنها را یادداشت میکندبنابراین میتوانیم آنها را ببینیم، پس نمیتوانیم وانمود کنیم که وجود ندارند. باید از این تفکر که فناوری راهحلهمه مشکلات ما است دست بکشیم، بلکه به آن بعنوان راهنمایی برای آنچهواقعا این مشکلات هستند فکر کنیم، تا بتوانیم درباره آنها بهدرستی فکر کرده و مورد خطاب قرار دهیم.
خیلی متشکرم.
(تشویق)
متشکرم.
(تشویق)
هلن والترز: جیمز، متشکرم برای آمدنت به اینجا و سخنرانی که کردی. بنابراین جالب است: وقتی به فیلمهایی فکر میکنی، از آنچه شرح دادی کم باشکوهتر است. اما فکر می کنم-- در آن فیلمها با افزایش مقاومت مواجه هستیم. آیا مقاومتی در برابر این چیزها در حال شکل گرفتن است؟ آیا هیچ علامت مثبتی میبینی، هیچی اثری از بهبودی در مقاومت؟
جیمز بریدل: چیزی دربارهمقاومت مستقیم نمیدانم، چون فکر میکنم این چیزهاواقعا طولانی مدت هستند. فکر میکنم عمیقا در فرهنگ ماجا افتادند. الئنورسایتا یکی از دوستانم همیشه میگوید که مشکلات فناوری با هر مقیاس و دامنهای اول از همه مشکلات سیاسی هستند. بنابراین همه آنچه تلاش داریم در این بازه خطاب قرار دهیم صرف با بهتر ساختن فناوری اصلاح نمیشود، بلکه درواقع تغییر جامعهای که اینفناوریها را تولید میکند لازم است. پس همین حالا فکر میکنم که راهلعنتی درازی در پیش داریم. همانطور که گفتم، با پرده برداشتن از آنها، با توضیح دادن، صحبتصادقانه داشتن درباره آنها میتوانیم حداقل این روند را آغاز کنیم.
ه و: و بنابراین وقتی درباره سواد دیجیتالیو خوانایی صحبت میکنید، برایم دشوار است که تصور کنم لازم باشد بار سواد دیجیتال را بر دوشخود کاربرها بگذاریم. اما آموزش و تربیت در این جهان جدید مسئولیت چه کسی است؟
ج ب: دوباره، فکر میکنم این مسئولیتبه نوعی به همه ما بستگی دارد، هر کاری که میکنیم، هر چیزیکه میسازیم، هرآنچه میسازیم، لازم است به بحث جمعی بااشخاصی دارد که از آن اجتناب می کنند. که سیستمهایی نمیسازیم که تمایل به کلک زدن و شگفتزده کردن آدمها برای انجام کار درست دارند، اما این که آنها به راستی در هر گامیدر تعلیم آنها دخیل هستند، چون هریک از این سیستمها آموزشی هستند. چیزی که برایش امیدوارم،حتی این چیزهای واقعا ناراحت کننده، که اگر بخواهید نگاه حسابی به آنها بیندازید، خودش در واقع آموزش محسوب میشود که به شما امکان میدهد ببینید چطورسیستمهای پیچیده با هم شروع به کار می کنند و احتمالا قادر خواهید بود آن را در جاهای دیگر دنیا اعمال کنید.
ه و: جمیز، بحث خیلی مهمی است، و می دانم که خیلی از آدمهای حاضر در اینجاواقعا مشتاق و آمادهاند، خیلی ممنون که آغازگر جلسه صبح ما بودی.
ج ب: خیلی خیلی متشکرم.
(تشویق)