چگونه با هوش‌مصنوعی قدرتمند شویم و نگذاریم بر ما چیره گردد
متن سخنرانی :
پس از ۱۳٫۸ میلیارد سال از تاریخ کیهانی، جهان ما از خواب بیدار شده و درباره خود آگاه شده است. از یک سیاره آبی کوچک، بخش‌های هوشیار کوچکی از جهان مانگاه کردن به کیهان و کشف برخی حقایق حیرت‌انگیز را با تلسکوپ‌ها آغاز کرده‌اند. ما فهمیده‌ایم که جهان مااز آن چیزی که گذشتگانمان تصور می‌کردند وسیع‌تر است و حیات تقریباً شاخه بسیار مبهم و کوچکی از جهان‌های مرده دیگر بنظر می‌آید. ما همچنین حقایق الهام‌بخشی کشف کرده‌ایم: تکنولوژی که ما در حال توسعه آن هستیم چنان قابلیتی در شکوفا کردن حیات دارد که نه‌تنها در قرن‌ها که در میلیاردها سال و نه‌تنها در زمینکه در کل جهان هستی بی‌نظیر است.معتقدم حیات اولیه نسخه "حیات ۱.۰" می‌گرفت چرا که ساده‌ترین نوع حیات بود، همچون باکتری که ناتوانی در یاد گرفتنهر چیزی در طول زندگی‌اش داشت. معتقدم ما نسخه "حیات ۲.۰" را می‌گیریمچرا که می‌توانیم یاد بگیریم که در زبان عامیانه عشقِ کامپیوترها همچون توانایی نصب کردننرم‌افزار به مغزمان است، مثل زبان‌های جدید و توانایی‌های کاری. نسخه "۳.۰" حیات، که علاوه بر نرم‌افزار،می‌تواند سخت‌افزار خودش را هم طراحی کند البته هنوز به وجود نیامده است. اما شاید بتوان گفت تکنولوژی فعلی مانسخه "حیات ۲.۱" است با توانایی ما در ساخت مفصل مصنوعی،دستگاه تنظیم ضربان قلب و کاشت حلزونی.
خب، پس بگذارید نگاهی از نزدیکبه رابطه‌مان با تکنولوژی بیندازیم: این مثالی از ماموریت آپولو ۱۱ برای فرود در ماه استکه موفقیت‌آمیز و الهام‌بخش بود، نشان می‌دهد زمانی که انسان‌هااز تکنولوژی عاقلانه استفاده می‌کنند می‌توانیم به موفقیت‌هایی برسیمکه گذشتگانمان در خواب هم نمی‌دیدند. اما هنوز اکتشافات هرچه بیشترالهام‌بخشی وجود دارند که توسط چیزی قوی‌تراز موتور موشک به جلو رانده می‌شوند، که مسافران آن‌ها محدود بهسه فضانورد نمی‌شود بلکه کل بشریت را شامل می‌شود. بگذارید در مورد سفر همگانی‌مان به آینده توسط هوش‌مصنوعی صحبت کنیم.
یکی از دوستانم یان تالین اشاره می‌کندکه درست مانند فناوری موشکی، کافی نیست که فقط فناوری‌مان را قوی کنیم. بلکه اگر بخواهیم واقعا جاه‌طلب باشیم،باید مشخص کنیم که چطور می‌خواهیم آن را هدایت کنیم و کجا می‌خواهیم با آن برویم. پس بیاید در مورد سه مبحثمربوط به هوش‌مصنوعی صحبت کنیم: قدرت، هدایت، و مقصد.
با بحث قدرت شروع می‌کنیم. من هوشمندی رابا تمام جزئیات تعریف می‌کنم -- یعنی بطور ساده توانایی مادر رسیدن به اهداف پیچیده، چون با این تعریف می‌خواهم هر دو شاخه هوشیعنی مصنوعی و زیستی را شامل کنم. با این کار از ایده احمقانهو از روی تعصبِ کربن‌محور اجتناب می‌کنم که فقط در صورتی می‌توانید باهوش باشیدکه از گوشت ساخته شده باشید. رشد اخیر قدرت هوش‌مصنوعیواقعاً شگفت‌انگیز است. در موردش فکر کنید. تا همین چند وقت پیشربات‌ها نمی‌توانستند راه بروند. اما حالا پشتک می‌زنند. همین چند وقت پیش، ما خودروهای خودران نداشتیم. اکنون موشک‌های، خود پرواز داریم. همین چند وقت پیش، هوش‌مصنوعی توانایی تشخیص چهره را نداشت. اکنون، هوش‌مصنوعی می‌تواندچهره‌های تقلبی بسازد و حرکات چهره شما را در حالی که چیزیمی‌گویید که هرگز نگفته‌اید شبیه‌سازی کند. همین چند وقت پیش، هوش‌مصنوعی نمی‌توانستدر بازی Go ما را شکست دهد. اما بعداً، هوش‌مصنوعیذهن عمیق آلفا زیرو گوگل ۳,۰۰۰ سال تاریخچه بازی Goو خرد آن را کنار زد و به بهترین بازیکن Goفقط با تمرین با خودش تبدیل شد. و چشم‌گیرترین دستاورد در این اتفاقشکست دادن بازیکنان انسانی نبود، بلکه شکست دادن خود محققان هوش‌مصنوعیتوسط هوش‌مصنوعی بود که سال‌ها مشغول سخت‌ترکردنبازی‌های نرم افزاری بودند. آلفا زیرو نه‌تنها در Go که در شطرنج هممحققان هوش‌مصنوعی را شکست داد، دستاوردی که از سال ۱۹۵۰،بر رویش در حال کار بودیم.
پس تمامی این پیشرفت‌های اخیر هوش‌مصنوعیشدیدا سوالی را بر می‌انگیزد: تا کجا ادامه خواهد داشت؟ من دوست دارم به این سوال به صورت منظره‌ای انتزاعی از وظایف فکر کنم که ارتفاع هر کار نشان دهندهسختی آن کار برای هوش‌مصنوعی در سطح انسانی است، و سطح آب دریا نشان دهندهتوانایی امروز هوش‌مصنوعی است. هرچه هوش‌مصنوعی پیشرفت کند،ارتفاع دریا افزایش پیدا می‌کند پس به نوعی با پدیده گرمایش جهانیدر این منظره از وظایف مواجهیم. و آشکارترین پند این است که از انجام کارهایدر نزدیکی آب خودداری کنید --
(خنده حضار)
که بزودی خودکار یا دچار مشکل خواهند بود. اما سوالی بسیار بزرگ‌تری هم هست. تا چه میزانی آب بالا خواهد آمد؟ آیا تا محدوده‌ای که همه چیز راغرق کند پیش خواهد رفت تا تمام وظایف انسان‌ها را در بر بگیرد؟ و این تعریفی برایهوش‌مصنوعی همه‌جانبه، AGI است. که هدف نهایی محققان هوش‌مصنوعیاز زمان تعریف شدنش است. با این تعریف، مردم می‌گویند: "همیشه برای انسان‌ها شغل‌هایی باقیستکه از ماشین‌ها بهتر انجام دهند." و معتقدند هرگز به هوشمصنوعیهمهجانبه نخواهیم رسید. یقیناً، ما شاید بتوانیم شغل‌هایی خاصبرای انسان‌ها انتخاب کنیم یا برای انسان‌ها درآمد و هدفیبا شغل‌هایمان متصور شویم، اما هوشمصنوعیهمهجانبه، زندگی که با آنآشناییم را به کل تغییر خواهد داد بطوریکه انسان‌ها دیگرهوشمندترین نخواهند بود. خب، اگر سطح آب بهسطح هوشمصنوعیهمهجانبه برسد، دیگر پیشرفت‌های بعدیهوش‌مصنوعی توسط انسان نیستند بلکه خود هوش‌مصنوعیخودش را ارتقا خواهد داد، که به معنی احتمالسرعت یافتن پیشرفت‌های بعدی هوش‌مصنوعی در مقابل زمانی که تحقیقات و توسعه انسانیطول می‌کشد خواهد بود، این باعث افزایش احتمال وقوعپدیده جنجالی تکینگی هوشمندی می‌شود زمانی که هوش‌مصنوعی خود ارتقاء مرتباً انسان‌ها را در هوشمندی پشت سر می‌گذارد. و ابر هوش‌مصنوعیدر این زمان متولد می‌گردد.
بگذارید به حال برگردیم: آیا به این زودیبه هوشمصنوعیهمهجانبه خواهیم رسید؟ برخی از محققان مشهور هوش‌مصنوعیهمچون رودنی بروکس معتقدند این اتفاق تا صدها سالطول خواهد کشید. اما بقیه همچون موسس هوش‌مصنوعیدیپ مایند گوگل، دمیس هاسابیس، خوش‌بین‌تر هستند و سخت تلاش می‌کنندهرچه زودتر اتفاق بیفتد. نظرسنجی‌های اخیر نشان دادهاکثر محققان هوش‌مصنوعی به خوش‌بینی دمیس معتقدند و انتظار ظهور هوش‌مصنوعی‌همه‌جانبهرا در چند دهه آینده دارند، یعنی در طول عمر اکثر ما. که این سوال بعدی را به وجود می‌آورد --بعد از آن چه می‌شود؟ نقش انسان‌ها بعد از اینکهماشین‌ها تمام کارها را بهتر و ارزان‌تر انجام دادند، چه خواهد بود؟
از دید من، ما بر سر دوراهی خواهیم بود. انتخاب اول این استکه از خود راضی باشیم: "بگذارید ماشین‌هایی بسازیمکه همه‌کاره باشند و نگران پیش‌آمدهایش نباشیم. اگر ما تکنولوژی بسازیمکه همه انسان‌ها را از رده خارج کند مثلا چه چیز بدی ممکن استاتفاق بیافتد که نگرانید؟"
(خنده حضار)
اما بنظر من این انتخاببشدت نسنجیده خواهد بود. بنظرم ما باید بخاطر حضور در TED هم که شدهبیشتر جاه طلبانه فکر کنیم. بگذارید آینده‌ای واقعاًالهام‌بخش را متصور شویم
و برای رسیدن به آن با تأمل حرکت کنیم. این مارا به بحث دومدر تشبیه موشک می‌کشاند: هدایت. ما در حال قوی‌تر کردن هوش‌مصنوعی هستیم اما چگونه آن را به سوی آینده هدایت کنیم که هوش‌مصنوعی بشریت رابه جای تسلیم کردن کامل‌تر کند؟ برای کمک به این بحث، من موسسه تحقیقاتحیات آینده را تاسیس نمودم. موسسه‌ای کوچک و غیر انتفاعی کهفواید استفاده از تکنولوژی را تبلیغ می‌کند و هدف ما ساده است: در آینده حیات وجود داشته باشدو به بهترین شکل ممکن درآید. می‌دانید، من عاشق تکنولوژی هستم. تکنولوژی دلیل بهتر بودن امروزنسبت به عصر سنگی است. و من خوش‌بینم که ما می‌توانیم آینده‌ایبا فناوری بالا و الهام‌بخش بسازیم، اگر -- و این اگر دشواریست -- اگر ما در نبرد دانش پیروز شویم -- نبردی میان رشد قدرت تکنولوژی‌مان و رشد دانشی که خودمان داریم. اما این پیروزی نیازمند تغییر استراتژی است چون استراتژی قبلی ما بر پایهیادگیری از اشتباهات بوده است. ما آتش را اختراع کردیم، چندین بار باعث حادثه شد، و مواد آتش خاموش کن ساختیم.
(خنده حضار)
ماشین را اختراع کردیم،چند بار باعث تصادف شد سپس چراغ راهنما، کمربند ایمنیو کیسه هوا را اختراع کردیم، اما در برخورد با تکنولوژی‌های قدرتمندی چونسلاح هسته‌ای و هوشمصنوعیهمهجانبه، یادگیری از اشتباهات،استراتژی شکست خورده محسوب می‌شود، بنظر شما اینطور نیست؟
(خنده حضار)
فعالانه عمل کردن بهتر از واکنش است؛ از پیش برنامه‌ریزی کنیدو از همان اول همه چیز را درست کنید چون ممکن است تنها فرصت‌مان باشد. اما این جالب استچون گاهی مردم به من می‌گویند: "مکس، هیشش، اینطوری صحبت نکن،
چرا که سخنانت مانندتکنولوژی‌هراسان ترسناک است." اما این‌ها ترسناک نیستند بلکه ما در MIT آن‌ها رابخشی از دروس مهندسی ایمنی می‌دانیم. به آن فکر کنید: قبل از اینکه ناساماموریت آپولو ۱۱ را آغاز کند، آن‌ها به طور منظم احتمال هر ایرادی در حالتی که شما انسان‌هاییروی تانکرهای سوختی می‌گذارید و به‌جایی می‌فرستید که هیچ کمکیبعداً نمی‌شود فرستاد، بررسی کردند. احتمال فراوانی از ایرادها ممکن بود. آیا آن بررسی‌ها باعث ترس می‌شدند؟ نه. این دقیقاً همان مهندسی ایمنی بود که موفقیت ماموریت را تضمین کرد. معتقدم همان استراتژی دقیقاً باید در موردهوش‌مصنوعی‌همه‌جانبه نیز به کار رود. در مورد پیش‌آمد‌های بد فکر کنتا مطمئن شوی بدون نقص خواهد شد.
خب در این زمینه، کنفرانس‌هایی تشکیل دادیم تا محققان پیشتاز هوش‌مصنوعی راکنار یکدیگر جمع کنیم تا در مورد چگونگی رشد دانش‌مان به منظورداشتن هوش‌مصنوعی سودمند گفتگو کنیم. آخرین کنفرانس ما،سال قبل در آسیلومر کالیفرنیا بود و این لیست ۲۳ بندی از اصولی که توسط ۱۰۰۰ نفر از محققان هوش‌مصنوعی و رهبران صنعتی امضا شده را تشکیل داد. می‌خواهم در مورد سه تااز این اصول برایتان بگویم:
اول، باید از هرگونه مسابقه نظامیو سلاح‌های خودکار مرگبار خودداری شود. نکته این است که هر علمی می‌تواند باعث ایجاد راه‌های جدیدبرای کمک یا صدمه‌زدن به مردم شود. به طور نمونه، زیست‌شناسی و شیمی بیشتر در مقاصد ساخت دارو و درمان‌های جدید در مقابل روش جدیدبرای کشتن مردم بکار می‌رود، چراکه زیست‌شناسان و شیمی‌دانان مستمرانه -- و موفقیت آمیز -- برای ممنوع کردن سلاح‌های زیستیو شیمیایی تلاش کردند. و در همین زمینه، اکثر محققان هوش‌مصنوعیمی‌خواهند استفاده از سلاح‌های مرگبار خودکار راممنوع و بد جلوه دهند. اصل بعدی تصویب شده در کنفرانس آسیلومار، ما باید شکاف درآمدی حاصل ازهوش‌مصنوعی را کاهش دهیم. معتقدم، اگر بتوانیم کیک [سرانه درآمد جهان]را با هوش‌مصنوعی به شدت بزرگ کنیم اما نتوانیم راهی برای تقسیم آن پیدا کنیم
طوری که همه راضی باشند، پس شرم بر ما.
(تشویق حضار)
اگر کسی تا حالا کامپیوترشخراب شده، دستش را بالا بیاورد.
(خنده حضار)
واو، دست‌ها زیاد هستند. خب، پس باید به این اصلشما هم معتقد باشید که باید بودجه زیادی برای تحقیق رویتحقیقات ایمنی‌هوش‌مصنوعی بگذاریم. چون زمانی‌که ما هوش‌مصنوعی راتصمیم‌گیر و مسئول زیرساخت‌ها قرار می‌دهیم، باید راهی برای تبدیل کامپیوترهایایراددار و قابل هک امروزی به هوش‌مصنوعی قدرتمندی که واقعاًبتوان به آن اعتماد کرد پیدا کنیم، در غیر اینصورت، تمامی این تکنولوژی وحشتناک می‌توانددچار اختلال شده و به ما آسیب رساند، یا هک شده و علیه ما تنظیم شود. کار ما بر روی ایمنی کارکرد هوش‌مصنوعیباید شامل کار بر روی تنظیم ارزش‌هایش باشد، چرا که تهدید واقعی از جانبهوش‌مصنوعی‌همه‌جانبه از نوع شیطانی نیست همانند آنچه درفیلم‌های احمقانه هالیوودی هست، بلکه از نوع برتری است -- یعنی هوشمصنوعیهمهجانبه به اهدافیمی‌رسد که با اهداف ما در تضاد است. برای نمونه، وقتی ما انسان‌ها کرگدن‌هایسیاه غرب‌آفریقایی را به انقراض کشاندیم، به‌خاطر دسته‌ای از افکار شیطانی ضد کرگدنیاین‌کار را نکردیم که، قبول دارید؟ ما این‌کار را بخاطر اینکهاز آن‌ها باهوش‌تر بودیم و اهداف ما با آن‌هادر تضاد بود انجام دادیم. اما هوش‌مصنوعی‌همه‌جانبهروی کاغذ از ما هوشمندتر است پس برای اینکه اطمینان داشته باشیم خودمان رادر مقامی چون کرگدن‌ها در مقابل هوشمصنوعیهمهجانبه --اگر ساختیم -- قرار ندهیم، ما باید بفهمیم که ماشین‌هاچگونه اهداف ما را می‌فهمند با آن‌ها سازگار شدهو تغییرشان نمی‌دهند. اما پس اهداف چه‌کسیباید روی‌آن‌ها تنظیم گردد؟ چه اهدافی باید باشند؟
این ما را به بحث سوم‌در تشبیه موشک می‌رساند: مقصد. ما در حال قوی‌تر کردن هوش‌مصنوعی هستیم، می‌خواهیم طریقه هدایتش را بدانیم، اما با آن به کجا می‌خواهیم برویم؟ این چالشی است که هیچ‌کس نمی‌خواهددر موردش صحبت کند -- حتی در همین صحنه TED نیز -- زیرا همه ما شدیداً به اهداف کوتاه‌مدتهوش‌مصنوعی چسبیده‌ایم. نژاد ما در حال ساختنهوش‌مصنوعی‌همه‌جانبه است، که با انگیزه توجیه اقتصادیو کنجکاوی همراه است، اما پس اگر موفق شویم، چه تصوریاز جامعه آینده باید داشته باشیم؟ ما اخیراً نظرسنجیبر روی این موضوع داشتیم. من به‌طور ناخوش‌آیندی متوجه شدم اکثر مردم واقعاً از ما می‌خواهدابرهوش‌مصنوعی را بسازیم: هوش‌مصنوعی که بشدت در همه جهاتاز ما هوشمندتر است. و چیزی که عامه توافق بالایی روی‌آن دارند بلندپروازی ما برای کمک درانتشار حیات در عالم است، اما توافق کمی درباره اینکه چه کسییا چه چیزی مسئول آن باشد وجود دارد. و من واقعا دلم می‌خواهد کسی را که می‌خواهد فقط ماشین‌ها در عالمبه عنوان حیات پخش شوند ببینم.
(خنده حضار)
و عدم‌توافق کاملیدر مورد نقش انسان‌ها داریم حتی در ابتدایی ترین نقش‌ها، پس بیایید به آینده‌های محتمل نگاهی بیندازیم که ممکن است انتخابمان به سوی‌شان باشد، موافقید؟
در این‌قسمت اشتباه در موردم فکر نکنید. در مورد سفرهای فضایی صحبت نمی‌کنم، بلکه صرفاً در مورد سفر استعاره‌ای بشریتبه سمت آینده صحبت خواهم کرد. یکی از انتخاب‌هایی که بعضی ازهمکارانم دوستش دارند ساختن ابر هوش‌مصنوعیو در زیر کنترل بشریت نگه‌داشتن آن است، همچون خدایی در بند شده، جدا شده از اینترنت، که برای تولید تکنولوژیو ثروت غیر قابل تصور برای هرکسی‌که صاحبش باشد،مورد استفاده قرار می‌گیرد. اما لرد اکتون ما را آگاه ساخته که: "قدرت فساد می‌آوردو قدرت مطلق، فساد مطلق می‌آورد." خب شاید بنظر بیاید که ما انسان‌هابه‌اندازه کافی باهوش یا دانا نخواهیم بود تا این حجم از قدرت را در کنترل داشته باشیم همچنین، در کنار همه تردیدهای اخلاقیکه شما ممکن است درباره به کنترل درآوردنهوش[مصنوعی] برتر داشته باشید، ممکن است نگران باشید که ابر هوش‌مصنوعیمی‌تواند از ما در هوشمندی جلوتر زده، از دستمان در رود و بر ما چیره شود. اما من همچنین همکارانی دارمکه راضی‌اند هوش‌مصنوعی بر ما چیره شود و حتی باعث انقراض نسل بشر گردد، مثل اینکه به هوش‌مصنوعیبه دید میراث‌داران شایسته‌مان بنگریم، مثل فرزندان‌مان. اما از کجا بدانیم که هوش‌مصنوعیبا بهترین ارزش‌های ما سازگار شده است و همانند زامبی‌های ناخودآگاه ما رادر انسان‌گونه دانستن‌شان فریب نخواهد زد؟ آیا نباید به انسان‌هاییکه انقراض نسل بشر را نمی‌خواهد در این زمینه، فرصت نظر دادن داد؟ حالا اگر شما هیچ‌کدام از این دو انتخاببرای آینده همراه با فناوری را نخواهید باید به یاد داشته باشیدکه آینده با فناوری کم از منظر کیهانی همانند خودکشی است، چرا که اگر ما از مرزهایتکنولوژی امروزی فراتر نرویم سوال این نخواهد بودکه بشریت منقرض می‌شود یا نه، بلکه اساسا درباره این خواهد بود که عامل آن سیارک قاتل بعدی است یا ابر آتشفشان یا مشکلات دیگری که می‌توانستیمبا تکنولوژی بهتر مانع‌شان شویم.
خب، چطور است کیک‌مان راداشته باشیم و آن را بخوریم ... با هوش‌مصنوعی‌همه‌جانبه‌ای در بند ما نیست بلکه با ما خوب رفتار می‌کندچون ارزش‌های آن با ارزش‌های ما هم‌راستاست؟ این نیم‌نگاهی است به آنچه که الیزر یودکاوسکیآن‌را "هوش‌مصنوعی‌دوستانه" می‌نامد. و اگر ما چنین هوش‌مصنوعی بسازیممی‌تواند بسیار الهام‌بخش باشد. این می‌تواند نه‌تنها ما رااز تجربه‌های منفی همچون بیماری، فقر، جرایم و سایر رنج‌ها برهاند، همچنین می‌تواند به ما آزادی انتخاب از میان گوناگونی تجربه‌هایفوق‌العاده مثبت و جدید را بدهد -- اساساً ما را صاحبان سرنوشت‌مان کند.
خب پس در خلاصه، وضعیت ما با تکنولوژی پیچیده است اما شرایط کلی‌مان ساده است. اکثر محققان هوش‌مصنوعی انتظار ظهورهوش‌مصنوعی‌همه‌جانبه را در چند دهه بعدی دارند اگر ما بدون برنامه به آن مرحله برسیم، شاید این بزرگترین اشتباهدر تاریخ بشریت باشد.
امتحانش مجانی است. این رویداد می‌تواندباعث دیکتاتوری وحشیانه جهانی همراه با نابرابری بی‌سابقه،تحت نظر قرار گرفتن و رنج بردن و حتی موجب انقراض بشریت شود. اما اگر ما با دقت هدایتش کنیم، می‌توانیم به آینده‌ای خارق‌العاده کههمه در وضع بهتری از الان خواهند بود برسیم: فقیر، ثروتمند و ثروتمند، ثروتمندتر شده، همه سالم و آزاد برای زندگیبه سمت اهدافشان هستند.
حالا، صبر کنید. آیا شما گروهی هستیدکه آینده سیاسی راست یا چپی می‌خواهید؟ آیا جامعه مذهبی بر پایهقوانین سرسخت اخلاقی می‌خواهید؟ یا جامعه‌ای همراه با خوشی و لذت همگانی، چیزی مثل مراسم سالانه "مرد سوزان"در نوادا که بصورت همیشگی دایر باشد؟ سواحل، جنگل و دریاچه زیبا می‌خواهید یا ترجیح می‌دهید یکی از آن اتم‌ها را توسط واقعیت مجازی کامپیوتری دستکاری کنید؟ با هوش‌مصنوعی‌مهربان،تمامی این جوامع امکان‌پذیر است و می‌توان به مردم آزادی دادتا در هر کدام که خواستند زندگی کنند چرا که دیگر ما توسطهوش‌خودمان محدود نیستیم و تنها محدود به قوانین فیزیک هستیم. پس میزان منابع و فضا برای آننجومی خواهد بود -- به معنای واقعی کلمه.
پس این انتخاب ماست: می‌توانیم در مورد آینده‌ماناز خود راضی باشیم، و همانند نوشته‌ای از ایمان کور به همه تکنولوژی‌های جدیدبه شکل تضمینی و سودمند نگاه کنیم، و به خودمان این تضمین رامدام همچون وردی تکرار کنیم در حالی که همچون کشتی سرگردانبه‌سمت تباهی‌مان پیش می‌رویم. یا می‌توانیم بلندپرواز باشیم -- در مورد نحوه هدایت تکنولوژی‌مان و جایی که با آن می‌خواهیم برویم تا عصر شگفتی‌ها رابا آن بسازیم خوب فکر کنیم. ما همه اینجا هستیم،تا عصر شگفتی را جشن بگیریم، و من احساس می‌کنم ماهیت آن نباید این باشدکه قدرت فناوری از ما بیشتر شود، بلکه ما باید با آن قدرتمند شویم.
متشکرم.
(تشویق)
