دانشمندان از تهدید هوش مصنوعی می ترسند. آیا هوش مصنوعی برای انسان خطرناک است؟

مجله اینترنتی پرطرفدار آمریکایی Wired متنی بسیار جالب از کوین کلی منتشر کرد که در آن او به طور کامل از ایده خطرات هوش مصنوعی انتقاد می کند. "NI" ترجمه ای از این مطالب را منتشر می کند، ساخته شده استاستفاده از کانال تلگرام نیوشیم با کاهش جزئی.

شنیده ام که در آینده کامپیوترهای دارای هوش مصنوعی چنین خواهند شد باهوش تر از یک شخص، که ما را از شغل و منابع محروم می کند و در نهایت بشریت به پایان می رسد. اما آیا این است؟ سوال مشابههر بار که در مورد هوش مصنوعی سخنرانی می کنم این سوال از من می شود.

سئوال کنندگان جدی تر از همیشه هستند و نگرانی آنها تا حدودی ناشی از نگرانی برخی کارشناسان است که از همین سوال در عذاب هستند. اینها شامل باهوش ترین معاصران ما هستند - استیون هاوکینگ، ایلان ماسک، مکس تگمارک، سم هریس و بیل گیتس.

همه آنها احتمال چنین سناریویی را قبول دارند. در کنفرانس اخیر هوش مصنوعی، هیئتی متشکل از 9 تن از روشنفکرترین گوروهای این حوزه آمدبه این نتیجه متفق القول که ایجاد هوش مافوق بشری اجتناب ناپذیر است و همین الان نزدیک است.

و با این حال، سناریوی بردگی بشر توسط هوش مصنوعی مبتنی بر پنج فرض است که با بررسی دقیق‌تر، ثابت نمی‌شود. این اظهارات ممکن است در آینده درست باشد، اما در حال حاضر ثابت نیست.

آن ها اینجا هستند:

1. هوش مصنوعی در حال حاضر از ذهن انسان هوشمندتر شده است و این روند تصاعدی است.
2. ما یک هوش مصنوعی با هدف کلی شبیه به خودمان توسعه خواهیم داد.
3. ما می توانیم هوش انسانی را از سیلیکون ایجاد کنیم.
4. هوش می تواند بی حد و حصر باشد.
5. ایجاد یک ابرهوش بزرگ بیشتر مشکلات ما را حل خواهد کرد.

در مقابل این فرضیه های ارتدکس، می توانم بدعت اثبات شده زیر را ذکر کنم:

1. هوش یک بعدی نیست، بنابراین "باهوش تر از یک شخص" مفهومی بی معنی است.
2. مردم از هوش همه منظوره برخوردار نیستند، که برای هوش مصنوعی نیز تهدیدی نیست.
3. رقابت بین انسان و کامپیوتر به دلیل هزینه ها محدود خواهد شد.
4. هوش بی حد و حصر نیست.
5. ایجاد هوش مصنوعی تنها بخشی از پیشرفت است.

اگر باور به بردگی انسان ها توسط هوش مصنوعی مبتنی بر پنج فرض بی اساس باشد، پس این ایده بیشتر شبیه باورهای مذهبی - افسانه ها است. در فصل‌های بعدی، استدلال‌های متقابل خود را با حقایق تکمیل می‌کنم و ثابت می‌کنم که هوش مصنوعی مافوق بشر در واقع افسانه‌ای بیش نیست.

رایج‌ترین تصور غلط در مورد هوش مصنوعی از دیدگاه یک‌بعدی هوش طبیعی ناشی می‌شود. در علوم سخت، بسیاری هوش را به روشی به تصویر می کشند که نیک بوستروم در کتاب Superintelligence انجام داد - به معنای واقعی کلمه به عنوان یک نمودار خطی یک بعدی با دامنه فزاینده.

در یک طرف موجوداتی با کمترین سطح هوش، به عنوان مثال، حیوانات کوچک، و در سوی دیگر - نابغه ها وجود دارند، گویی سطح هوش هیچ تفاوتی با سطح صدای اندازه گیری شده در دسی بل ندارد. البته در این حالت به راحتی می توان افزایش بیشتری را تصور کرد که در آن سطح هوش از بالاترین نقطه نمودار فراتر رود و حتی از آن فراتر رود.

این مدل از نظر توپولوژیکی معادل یک نردبان است که در پله های آن سطوح هوش به ترتیب صعودی مرتب شده اند. حیوانات کمتر باهوش پله های پایین نردبان را اشغال می کنند و هوش مصنوعی بیشتر است. سطح بالابه ناچار بالای سر ما قرار خواهد گرفت. چارچوب زمانی برای زمانی که این اتفاق می افتد مهم نیست. مراحل خود سلسله مراتب بسیار مهمتر است - معیارهای هوش در حال رشد.

مشکل این مدل اسطوره ای بودن آن است، درست مانند مدل نردبان تکاملی. قبل از داروینیسم، طبیعت زنده به عنوان نردبانی از موجودات زنده نشان داده می شد، جایی که انسان یک پله بالاتر از حیوانات ابتدایی تر را اشغال می کرد.

و حتی پس از داروین، نردبان تکامل یکی از رایج ترین مفاهیم باقی مانده است. تبدیل ماهی ها به خزندگان، آنها به پستانداران و نخستی ها به انسان را نشان می دهد. علاوه بر این، هر موجود بعدی توسعه یافته تر (و البته باهوش تر) از سلف خود است. بنابراین، نردبان عقل با نردبان عالم همبستگی دارد. با این حال، هر دو مدل دیدگاه های کاملاً ضد علمی را منعکس می کنند.

یک نمودار دقیق تر برای تکامل طبیعی، دیسکی است که به بیرون تابش می کند، مانند تصویر بالا. این ساختار اولین بار توسط دیوید هیلیس از دانشگاه تگزاس بر اساس DNA ساخته شد. این ماندالای شجره نامه ای در مرکز با ابتدایی ترین اشکال زندگی آغاز می شود و سپس به بیرون منشعب می شود. زمان به جلو می رود، بنابراین جدیدترین اشکال زندگی در اطراف محیط دایره قرار دارند.

این تصویر یک واقعیت غیرقابل ارزیابی در مورد تکامل با اهمیت اساسی را برجسته می کند - همه موجودات زنده به یک اندازه تکامل یافته اند. انسان در قسمت بیرونی دیسک همراه با سوسک ها، نرم تنان، سرخس ها، روباه ها و باکتری ها قرار دارد.

بدون استثنا، همه گونه‌ها زنجیره‌ای ناگسستنی از تولید مثل موفقیت‌آمیز را پشت سر گذاشته‌اند که سه میلیارد سال طول کشیده است، به این معنی که باکتری‌ها و سوسک‌ها به اندازه انسان‌ها تکامل یافته‌اند. هیچ پله ای وجود ندارد.

به همین ترتیب، هیچ نردبانی از هوش وجود ندارد. هوش تک بعدی نیست. مجموعه ای از انواع و روش های مختلف دانستن است که هر کدام پیوسته است. بیایید یک تمرین ساده برای اندازه گیری هوش در حیوانات انجام دهیم. اگر هوش یک بعدی بود، به راحتی می توانستیم طوطی، دلفین، اسب، سنجاب، اختاپوس، نهنگ آبی، گربه و گوریل را به ترتیب افزایش هوش رتبه بندی کنیم.

الان نه اثبات علمیوجود چنین دنباله ای دلیل این امر ممکن است عدم تفاوت بین سطح هوش برخی از حیوانات باشد، اما این نیز بی اساس است.

جانورشناسی سرشار از نمونه هایی از تفاوت های چشمگیر در تفکر حیوانات است. شاید همه حیوانات دارای هوش "هدف عمومی" باشند؟ شاید، اما ما ابزار واحدی برای اندازه گیری این نوع هوش نداریم. با این حال، ما سیستم های اندازه گیری زیادی برای انواع مختلف شناخت داریم.

به جای یک خط تک دسی بل، بهتر است که هوش را به عنوان نمودار فضای احتمال به تصویر بکشیم، مانند تجسم اشکال ممکن که توسط الگوریتم ریچارد داوکینز ایجاد شد. هوش یک پیوستار ترکیبی است. بسیاری از گره ها، که هر کدام یک پیوستار هستند، مجموعه ای از تنوع عظیم را در ابعاد مختلف ایجاد می کنند. برخی از انواع هوش می توانند بسیار پیچیده باشند، با مجموعه بزرگی از گره های فرعی تفکر. برخی دیگر ساده‌تر هستند، اما افراطی‌تر، به نقطه افراطی فضا می‌رسند.

این مجموعه ها که برای ما به معنای انواع مختلف هوش هستند، می توانند به عنوان سمفونی هایی در نظر گرفته شوند که در انواع متفاوتآلات موسیقی. آنها نه تنها در حجم، بلکه در ملودی، رنگ، سرعت و غیره نیز متفاوت هستند. شما می توانید آنها را به عنوان یک اکوسیستم درک کنید. در این معنا اجزای مختلفگره های تفکر به یکدیگر وابسته هستند و از یکدیگر ایجاد می شوند.

همانطور که ماروین مینسکی گفت، آگاهی انسان جامعه عقل است. تفکر ما یک اکوسیستم کامل است. مغز ما راه های زیادی برای دانستن دارد که عملکردهای ذهنی مختلفی را انجام می دهند: قیاس، استقرا، هوش هیجانی، تفکر انتزاعی و فضایی، حافظه کوتاه مدت و بلند مدت.

همه سیستم عصبییک فرد بخشی از مغز با سطح شناخت خاص خود است. در واقع، فرآیند تفکر نه توسط مغز، بلکه توسط کل بدن انسان انجام می شود.

همه انواع تفکر هم بین گونه ها و هم بین اعضای یک گونه متفاوت است. یک سنجاب می تواند محل دقیق چندین هزار بلوط را برای سالها به خاطر بسپارد که برای انسان کاملاً غیرقابل درک است. در این نوع تفکر انسان ها نسبت به سنجاب ها پست ترند. هوش سنجاب ترکیبی از این ابرقدرت با سایر انواع هوش است که در آن انسان بر سنجاب ها برتری دارد. در قلمرو حیوانات می توان نمونه های زیادی از برتری انواع خاصی از هوش حیوانی بر هوش انسانی یافت.

همین وضعیت در مورد هوش مصنوعی نیز ایجاد شده است که در برخی زمینه ها از هوش انسانی برتری دارد. هر ماشین حسابی یک نابغه ریاضی است و حافظه موتور جستجوی گوگل در حال حاضر از جهاتی بهتر از حافظه ما است.

برخی از هوش مصنوعی ها فعالیت های ذهنی را انجام می دهند که ما قادر به انجام آن ها نیستیم. به خاطر سپردن هر کلمه در شش میلیارد صفحه وب برای انسان ها کاری دلهره آور و برای موتورهای جستجو نسیم است. در آینده روش های کاملا جدیدی برای تفکر ایجاد خواهیم کرد که برای انسان قابل دسترس نیست و در طبیعت وجود ندارد.

مخترعان هواپیما از پرواز طبیعی الهام گرفتند - بال زدن. با این حال، بعداً یک بال ثابت با ملخ های متصل به آن اختراع شد و این یک اصل کاملاً جدید پرواز بود که در طبیعت یافت نمی شد.

اینگونه است که ما روش های جدیدی برای تفکر ابداع می کنیم که هیچ گونه دیگری قادر به انجام آن نیست. به احتمال زیاد، اینها اصولی هستند که فقط برای مسائل بسیار تخصصی کاربرد دارند: برای مثال، ساختارهای منطقی جدیدی که فقط در آمار و نظریه احتمال مورد نیاز هستند.

نوع جدیدی از تفکر به حل مشکلاتی که ذهن انسان قادر به مقابله با آنها نیست کمک می کند. برخی از سخت ترین سوالات در تجارت و علم نیاز به راه حل های دو مرحله ای دارند. مرحله اول ابداع روش جدیدی از تفکر طبیعی است. دوم شروع جستجوی پاسخ ها همراه با هوش مصنوعی.

اگر هوش مصنوعی بتواند به حل مشکلات غیرقابل حل قبلی کمک کند، مردم شروع به در نظر گرفتن هوش مصنوعی خواهند کرد. در واقع، تفکر هوش مصنوعی بهتر از تفکر ما نیست، فقط متفاوت است. من معتقدم که فایده اصلی هوش مصنوعی این است که می تواند مانند یک موجود بیگانه فکر کند و این بیگانگی مزیت اصلی آن است.

علاوه بر این، ما "جوامع" پیچیده هوش مصنوعی با روش های مختلف تفکر ایجاد خواهیم کرد. آنها آنقدر پیچیده خواهند بود که می توانند مشکلاتی را که ما نمی توانیم حل کنیم را حل کنند. بنابراین، برخی افراد به اشتباه فکر می کنند که مجتمع های هوش مصنوعی باهوش تر از مردم. اما ما فکر نمی کنیم که موتور جستجوی گوگل از یک شخص باهوش تر باشد، اگرچه حافظه او بهتر از حافظه ما است.

این احتمال وجود دارد که این مجتمع های هوش مصنوعی در بسیاری از زمینه ها از ما پیشی بگیرند، اما هیچ یک از آنها در همه جا از انسان ها پیشی نخواهند گرفت. وضعیت مشابهی در مورد ما رخ داد قدرت فیزیکی. دویست سال از انقلاب صنعتی می گذرد و هیچ ماشینی از هر نظر قوی تر از یک فرد معمولی نشده است، اگرچه ماشین ها به عنوان یک کلاس در سرعت دویدن، وزنه برداری، دقت برش و سایر فعالیت ها به طور قابل توجهی برتر از انسان هستند.

با وجود افزایش پیچیدگی ساختار هوش مصنوعی، اندازه گیری آن با استفاده از روش های علم مدرن غیرممکن است. ما ابزاری نداریم که بگوییم خیار پیچیده تر است یا بوئینگ 747، و همچنین راهی برای اندازه گیری تفاوت در پیچیدگی آنها نداریم. به همین دلیل است که هنوز معیارهای دقیقی برای توانمندی های فکری نداریم.

با گذشت زمان، تشخیص اینکه کدام یک پیچیده تر، و بر این اساس، هوشمندتر است، دشوارتر می شود: هوش A یا هوش B. بسیاری از حوزه های ناشناخته فعالیت ذهنی وجود دارد، و عمدتاً ما را از درک این موضوع باز می دارد که ذهن یک-یک نیست. ابعادی

دومین تصور غلط در مورد ذهن انسان این است که ما معتقدیم ذهن ما جهانی است. این باور گسترده بر مسیری که ما به سمت ایجاد هوش عمومی مصنوعی (AGI) طی می‌کنیم، تأثیر می‌گذارد که زمانی توسط متخصصان هوش مصنوعی اعلام شده بود.

با این حال، اگر ذهن را فضای وسیعی از امکانات در نظر بگیریم، نمی‌توانیم از حالت هدف کلی صحبت کنیم. ذهن انسان یک مکان مرکزی انتزاعی را اشغال نمی کند و دیگر انواع تخصصی ذهن حول آن نمی چرخد.

در عوض، هوش انسانی نوع بسیار خاصی از هوش است که در طی میلیون‌ها سال برای بقای گونه ما در این سیاره تکامل یافته است. اگر بخواهیم عقل خود را در میان دیگران قرار دهیم انواع ممکنفکر می کنم، او می توانست جایی در گوشه ای به پایان برسد - مانند خود جهان ما، در لبه یک کهکشان بزرگ جمع شده است.

البته می توان نوعی تفکر را تصور کرد و گاهی ابداع کرد که از نظر خصوصیات شبیه چاقوی ارتش سوئیس است. به نظر می رسد او با بسیاری از وظایف کنار می آید، اما نه با یک انفجار.

این همچنین شامل یک قانون فنی است که همه چیزها باید از آن تبعیت کنند، صرف نظر از اینکه عمدا ایجاد شده باشند یا به وجود آمده باشند. به طور طبیعی: "بهینه سازی همه اندازه گیری ها غیرممکن است. شما فقط می توانید سازش پیدا کنید. یک دستگاه چند منظوره عمومی نمی تواند عملکردهای تخصصی را بهتر انجام دهد.

ذهنیت انجام همه کار نمی تواند در حد مجریان تخصصی وظایف خاص عمل کند. از آنجایی که ما آگاهی خود را مکانیزمی جهانی می دانیم، معتقدیم که شناخت نباید مبتنی بر مصالحه باشد و می توان هوش مصنوعی را اختراع کرد که حداکثر درجه کارایی را در همه انواع تفکر نشان دهد.

با این حال، من هیچ مدرکی برای این ادعا نمی بینم. ما به سادگی هنوز تعداد کافی از انواع آگاهی را ایجاد نکرده ایم که به ما امکان می دهد تصویر کامل را ببینیم (و در حال حاضر ترجیح می دهیم آگاهی حیوانی را از طریق منشور یک پارامتر به عنوان نوع جداگانه ای از تفکر با دامنه متغیر در نظر نگیریم).

بخشی از این باور که تفکر ما تا حد امکان جهانی است از مفهوم محاسبات جهانی ناشی می شود. این فرض در سال 1950 تز چرچ-تورینگ نامیده شد. بیان می کند که تمام محاسباتی که پارامترهای خاصی را برآورده می کنند معادل هستند.

بنابراین، پایه ای وجود دارد که برای همه محاسبات جهانی است. صرف نظر از اینکه محاسبه توسط یک ماشین با مکانیسم های سریع زیاد، توسط ماشینی با بهره وری کمتر یا حتی در یک مغز بیولوژیکی انجام می شود - ما در مورددر مورد همان روند منطقی. این به نوبه خود بدان معنی است که ما می توانیم هر فرآیند محاسباتی (تفکر) را با استفاده از هر ماشینی که می تواند محاسبات "جهانی" را انجام دهد، شبیه سازی کنیم.

با استفاده از این اصل، طرفداران تکینگی انتظار خود را توجیه می کنند که ما قادر خواهیم بود یک مغز مصنوعی مبتنی بر سیلیکون طراحی کنیم که بتواند آگاهی انسان را در خود جای دهد، که ما قادر خواهیم بود هوش مصنوعی ایجاد کنیم که مانند یک فرد فکر کند. بسیار کارآمدتر با این امیدها باید با درجه خاصی از شک و تردید برخورد کرد، زیرا آنها مبتنی بر تفسیر نادرستی از تز چرچ-تورینگ هستند.

نقطه شروع این نظریه این است: "در شرایط حافظه و زمان نامحدود، همه محاسبات معادل هستند." مشکل این است که در واقعیت، هیچ کامپیوتری ویژگی های حافظه یا زمان بی نهایت را ندارد. هنگامی که محاسبات را در دنیای واقعی انجام می دهید، مؤلفه زمان بسیار مهم است، تا جایی که اغلب به زندگی و مرگ ختم می شود.

بله، اگر جنبه زمانی را حذف کنید، همه انواع تفکر برابر است. بله، اگر بخواهید زمان یا محدودیت‌های فضا و حافظه در واقعیت را نادیده بگیرید، می‌توانید فکر انسان را در هر ماتریسی شبیه‌سازی کنید.

با این حال، اگر متغیر زمان را در این معادله قرار دهید، باید فرمول این اصل را به طور قابل توجهی تغییر دهید: "دو سیستم محاسباتی که بر روی پلتفرم های کاملاً متفاوت کار می کنند، محاسبات معادل را در زمان واقعی انجام نمی دهند."

این اصل را می‌توان به صورت زیر بازنویسی کرد: «تنها روش برای دستیابی به روش‌های فکری معادل، اجرای آن‌ها بر همان اساس است. رسانه فیزیکی که محاسبات خود را بر روی آن انجام می دهید - به ویژه با افزایش پیچیدگی آنها - تا حد زیادی بر نوع تفکر در زمان واقعی تأثیر می گذارد.

در ادامه زنجیره منطقی، فرض می کنم که تنها روش ایجاد نوعی تفکر که تا حد امکان به انسان نزدیک است، انجام محاسبات با استفاده از ماده ای است که بسیار شبیه ماده خاکستری ما است.

این بدان معنی است که ما همچنین می توانیم فرض کنیم که هوش مصنوعی پیچیده و حجیم که بر اساس سیلیکون خشک ایجاد شده است، دست و پا چلفتی، پیچیده و بر خلاف انواع انسانفكر كردن. اگر بتوان هوش مصنوعی ایجاد کرد که بر روی ماده مرطوب با استفاده از نورون‌های مصنوعی شبیه انسان کار کند، فرآیند فکری چنین هوش مصنوعی بسیار نزدیک‌تر به ما خواهد بود.

مزایای چنین سیستم "مرطوبی" متناسب با نزدیکی رسانه های فیزیکی مورد استفاده به انسان است. ایجاد چنین ماده‌ای مستلزم هزینه‌های مادی هنگفتی است تا بتوان به سطحی حداقل مشابه با آنچه در طبیعت ذاتی ماست دست یافت. و ما می توانیم از این طریق یک فرد جدید ایجاد کنیم - فقط باید 9 ماه صبر کنیم.

همچنین همانطور که قبلا ذکر شد، ما با تمام وجود فکر می کنیم، نه فقط با آگاهی. علم مدرندارد مقدار زیادشواهدی در مورد اینکه چگونه سیستم عصبی ما در فرآیند تصمیم گیری «عقلانی» ما تأثیر می گذارد، پیش بینی می کند و سازگار می شود. هرچه بیشتر به سیستم نگاه کنیم بدن انسان، هر چه با دقت بیشتری بتوانیم آن را دوباره بسازیم. هوش مصنوعی که بر روی ماده ای کاملاً متفاوت از ما (سیلیکون خشک به جای کربن مرطوب) عمل می کند، به طور متفاوتی فکر می کند.

من فکر نمی کنم این ویژگی بیشتر یک "ویژگی به جای یک اشکال" باشد. همانطور که در نکته دوم این مقاله بحث کردم، تفاوت در فرآیند تفکر هوش مصنوعی مزیت اصلی آن است. در اینجا دلیل دیگری وجود دارد که چرا اشتباه است که بگوییم "باهوش تر از مغز انسان" است.

در هسته مفهوم هوش مافوق بشری - و به ویژه تئوری خود-بهبود مداوم چنین هوش مصنوعی - اعتقاد صادقانه به بی حد و حصر بودن هوش است. من هیچ مدرکی برای این ادعا پیدا نکردم.

باز هم، تصور نادرست از هوش به عنوان سیستمی که تنها توسط یک بعد تعریف شده است به گسترش این بیانیه کمک می کند، اما باید درک کنیم که بی اساس است. هیچ ابعاد فیزیکی بی نهایتی در جهان وجود ندارد - حداقل، آنها هنوز برای علم شناخته شده نیستند.

دما بی نهایت نیست - مقادیر حداقل و حداکثر سرما و گرما وجود دارد. فضا و زمان نیز نامحدود نیستند و سرعت نیز نامحدود نیست. شاید بتوان محور اعداد را بی نهایت نامید، اما سایر پارامترهای فیزیکی محدودیت های خود را دارند. البته خود ذهن نیز متناهی است.

این سوال مطرح می شود: حد و مرز هوش کجاست؟ ما عادت کرده‌ایم باور کنیم که حد در جایی دور است، همان‌طور که «بالاتر از ما» و «بالاتر از» مورچه‌ها هستیم. اگر مشکل حل نشده تک بعدی را کنار بگذاریم، چگونه می توانیم ثابت کنیم که هنوز به حد نهایی نرسیده ایم؟ چرا ما نمی توانیم تاج آفرینش باشیم؟ یا شاید ما تقریباً به مرزهای توانایی های انسانی رسیده ایم؟ چرا ما معتقدیم که هوش یک مفهوم بی پایان در حال تکامل است؟

بهتر است هوش خود را به عنوان یکی از انواع آن درک کنیم مقدار زیادیانواع تفکر اگرچه هر بعد شناخت و محاسبه حدی دارد، اما اگر صدها بعد وجود داشته باشد، انواع بی شماری از هوش وجود دارد، اما هیچ کدام در هیچ بعدی نامحدود نیست.

همانطور که ما با این تغییرات بی‌شمار در موضوع آگاهی مواجه می‌شویم، ممکن است آنها را فراتر از توانایی‌های خود تجربه کنیم. در آخرین کتابم، اجتناب ناپذیر، فهرستی از برخی از این گونه‌ها را که از یک جهت از ما پایین‌تر هستند، بیان کردم. در زیر بخشی از این لیست را می آورم:

ذهنی که تا حد امکان به انسان نزدیک باشد، اما سرعت واکنش بالاتری داشته باشد (ساده ترین هوش مصنوعی).

ذهن بسیار کندی که اجزای اصلی آن فضای ذخیره سازی و حافظه گسترده است.

هوش جهانی، متشکل از میلیون ها آگاهی فردی که به صورت هماهنگ عمل می کنند.

هوش جمعی متشکل از مقدار زیادعقل های فوق العاده مولد که نمی دانند یکی هستند.

ابرذهن بورگ (نژادی از سایبورگ‌ها با ذهن جمعی که تلاش می‌کنند همه موجودات زنده از مجموعه پیشتازان فضا را در جمع خود جذب کنند - تقریبا جدید در مورد) - انبوهی از هوش های بسیار کاربردی، که به وضوح آگاه هستند که آنها یک کل هستند.

ذهنی که برای توسعه آگاهی شخصی پوشنده ایجاد شده است، اما برای دیگران نامناسب است.

ذهنی که قادر به تصور ذهن پیچیده تر است، اما قادر به ایجاد آن نیست.

ذهنی که بتواند روزی با موفقیت ذهن پیچیده تری خلق کند.

ذهنی که می تواند ذهن پیچیده تری ایجاد کند که به نوبه خود می تواند ذهن پیچیده تری را ایجاد کند و غیره.

ذهنی که دسترسی سریع به کد منبع خود دارد (می تواند ویژگی های عملکرد خود را در هر زمان تغییر دهد).

ذهن فوق منطقی، محروم از توانایی تجربه احساسات.

ذهن استاندارد، با هدف حل مشکلات تعیین شده، اما ناتوان از درون نگری.

ذهنی که قادر به درون نگری است، اما قادر به حل مشکلات تعیین شده به آن نیست.

ذهنی که شکل گیری آن طول می کشد یک دوره طولانیزمان، نیاز به یک ذهن محافظ؛

ذهنی فوق‌العاده کند، پراکنده در یک فضای فیزیکی وسیع، که برای اشکالی از آگاهی که سریع‌تر پاسخ می‌دهند «نامرئی» به نظر می‌رسد.

ذهنی که قادر به بازتولید سریع و مکرر کپی از خود باشد.

ذهنی که بتواند نسخه های خود را بازتولید کند و با آنها یکی بماند.

ذهنی که بتواند با حرکت از میزبانی به میزبان دیگر به جاودانگی دست یابد.

ذهنی سریع و پویا که می تواند روند و ماهیت تفکر را تغییر دهد.

نانو ذهن، کوچکترین واحد مستقل (از نظر اندازه و انرژی خروجی) که قادر به تجزیه و تحلیل خود است.

ذهن متخصص در ایجاد سناریوها و پیش بینی.

ذهنی که هرگز چیزی از جمله اطلاعات نادرست را فراموش نمی کند.

نیمه ماشین، نیم حیوان;

قطعه ماشین، قسمت آندروژن سایبورگ;

ذهنی که در کار خود از تحلیل کمی استفاده می کند که برای ما قابل درک نیست.

امروزه برخی هر یک از این نوع تفکرات را هوش مصنوعی فوق بشری می نامند، اما در آینده تنوع و بیگانه بودن این اشکال هوش ما را وادار خواهد کرد که به فرهنگ لغت های جدید روی آوریم و مبحث تفکر و هوش را به تفصیل مطالعه کنیم.

علاوه بر این، طرفداران ایده هوش مصنوعی فوق بشری فرض می کنند که سطح توانایی های ذهنی آن به طور تصاعدی افزایش می یابد (اگرچه آنها هنوز سیستمی برای ارزیابی این سطح ندارند). شاید آنها معتقدند که روند توسعه تصاعدی در حال حاضر اتفاق می افتد.

در هر صورت، امروز هیچ مدرکی دال بر چنین رشدی وجود ندارد، مهم نیست که چگونه آن را اندازه گیری کنید. در غیر این صورت، این بدان معناست که توانایی های ذهنی هوش مصنوعی در یک دوره زمانی دو برابر می شود.

تایید این موضوع کجاست؟ تنها چیزی که اکنون به صورت تصاعدی در حال رشد است، سرمایه گذاری در صنعت هوش مصنوعی است. اما بازده این سرمایه گذاری ها با قانون مور قابل توصیف نیست. هوش مصنوعی در سه سال یا حتی در ده سال دو برابر هوشمندتر نمی شود.

من از بسیاری از کارشناسان در زمینه هوش مصنوعی سوال کردم، اما همه قبول داشتند که ما معیاری برای هوش نداریم. وقتی از ری کورزویل، یک جادوگر واقعی نمایی پرسیدم که کجا شواهدی از توسعه تصاعدی هوش مصنوعی پیدا کنم، او به من نوشت که توسعه هوش مصنوعی یک فرآیند انفجاری نیست، بلکه یک فرآیند تدریجی است.

برای افزودن یک سطح جدید به سلسله مراتب، هم نیاز به افزایش تصاعدی در قدرت محاسباتی و هم افزایش پیچیدگی الگوریتم است... بنابراین، باید انتظار افزایش خطی در تعداد سطوح مشروط را داشته باشیم، زیرا ظاهر هر یک از سطوح آنها نیاز به افزایش تصاعدی در ما دارند قابلیت های خود. سطوح پیچیدگی زیادی برای دستیابی به توانایی های هوش مصنوعی نئوکورتکس (بخش اصلی قشر مغز انسان که مسئول عملکردهای عصبی بالاتر است) باقی نمانده است. تقریبا تازه چیبنابراین من همچنان معتقدم که فرضیات من در مورد سال 2029 درست است."

به نظر می رسد ری می گوید که این قدرت هوش مصنوعی نیست که به طور تصاعدی در حال رشد است، بلکه تلاش برای ایجاد آن است، در حالی که نتیجه آنها هر بار به سادگی یک پله افزایش می یابد. این تقریبا برعکس فرضیه انفجار اطلاعاتی است. این ممکن است در آینده تغییر کند، اما هوش مصنوعی به وضوح امروز رشد تصاعدی ندارد.

بنابراین هنگامی که "رونق هوش مصنوعی" را تصور می کنیم، باید آن را نه به عنوان یک بهمن، بلکه به عنوان یک تقسیم شدن به بسیاری از انواع جدید در نظر بگیریم. نتیجه پیشرفت تکنولوژی به احتمال زیاد نه یک ابر مرد، بلکه یک ابر مرد خواهد بود. فراتر از دانش ما، اما نه لزوماً "بالاتر از" آن.

یکی دیگر از افسانه‌های کاملاً پذیرفته‌شده اما عمدتاً پشتیبانی‌نشده درباره بردگی توسط ابرهوش این است که هوش تقریباً بی‌نهایت می‌تواند به سرعت همه مشکلات ما را حل کند.

بسیاری از حامیان توسعه سریع هوش مصنوعی انتظار دارند که این رونق در پیشرفت ایجاد کند. من اعتقاد به این را "اندیشه گرایی" می نامم (این اصطلاح توسط ویاچسلاو گولوانوف ترجمه شده است - تقریبا جدید در مورد). این رویکرد مبتنی بر این باور است که پیشرفت فقط با تفکر یا هوش ناکافی مانع می شود. (همچنین متذکر می شوم که اعتقاد به هوش مصنوعی به عنوان نوشدارویی برای همه بیماری ها بیشتر مشخصه افرادی است که خودشان دوست دارند فکر کنند.)

بیایید مسئله غلبه بر سرطان یا افزایش عمر را در نظر بگیریم. اینها مشکلاتی است که تنها با فکر کردن حل نمی شود. هیچ مقداری از تفکر نمی تواند بفهمد که سلول ها چگونه پیر می شوند یا تلومرها چگونه کوتاه می شوند. هیچ هوشی، مهم نیست چقدر جالب است، نمی تواند بفهمد که چگونه کار می کند بدن انسان، فقط با خواندن همه چیز شناخته شده است ادبیات علمیدر جهان و تحلیل آن

Super-AI قادر نخواهد بود به سادگی به تمام آزمایش های فعلی و گذشته در مورد شکافتن هسته اتم فکر کند و یک روز بعد دستور العمل آماده ای برای همجوشی گرما هسته ای ارائه دهد. رسیدن از سوء تفاهم به درک هر موضوعی به چیزی بیش از تفکر نیاز دارد.

در واقعیت، آزمایش‌های زیادی وجود دارد که هر یک از آنها مجموعه کاملی از داده‌های متناقض را به دست می‌دهد و به آزمایش‌های بیشتری برای تشکیل فرضیه کاری صحیح نیاز دارد. فقط به آن فکر می کنم نتایج احتمالیداده های خروجی درستی نمی دهد.

تفکر (هوش) تنها بخشی از ابزار علم است. به احتمال زیاد فقط یک قسمت کوچک. به عنوان مثال، ما به سادگی داده های کافی برای نزدیک شدن به حل مشکل مرگ نداریم. هنگام کار با موجودات زنده، بیشتر این آزمایش ها زمان می برد. متابولیسم آهسته سلولی نمی تواند سرعت بگیرد. سال ها، ماه ها یا حداقل روزها طول می کشد تا به نتیجه برسید.

اگر بخواهیم بدانیم برای ذرات زیراتمی چه اتفاقی می‌افتد، تنها فکر کردن به آنها کافی نیست. ما باید مدل های فیزیک بسیار بزرگ، بسیار پیچیده و بسیار پیچیده بسازیم تا متوجه شویم. حتی اگر باهوش ترین فیزیکدان ها هزار برابر باهوش تر از الان شوند، بدون برخورد دهنده چیز جدیدی یاد نخواهند گرفت.

شکی نیست که ابر هوش مصنوعی می تواند توسعه علم را تسریع کند. ما می‌توانیم مدل‌های رایانه‌ای از اتم‌ها یا سلول‌ها را ایجاد کنیم و می‌توانیم به روش‌های مختلف سرعت آنها را افزایش دهیم، اما مشکلاتی وجود دارد که مانع از پیشرفت فوری شبیه‌سازی می‌شود.

شایان ذکر است که شبیه‌سازی‌ها و مدل‌ها را می‌توان سریع‌تر از موضوعات مورد بررسی قرار داد، زیرا آنها متغیرهای خاصی را کنار می‌گذارند. این ماهیت مدلینگ است. همچنین مهم است که توجه داشته باشید که آزمایش، مطالعه و اعتبارسنجی چنین مدل‌هایی زمان زیادی طول می‌کشد تا اطمینان حاصل شود که با موضوعات خود مرتبط هستند. آزمایش با تجربه را نمی توان تسریع کرد.

نسخه های ساده شده در شبیه سازی برای یافتن امیدوارکننده ترین راه ها برای سرعت بخشیدن به پیشرفت مفید هستند. اما در واقعیت، هیچ چیز اضافی نیست، همه چیز تا حدی مهم است - این یک تعریف بزرگ از واقعیت است. همانطور که مدل ها و شبیه سازی ها بیشتر و دقیق تر می شوند، محققان با این واقعیت مواجه می شوند که واقعیت سریعتر از شبیه سازی 100٪ آن اجرا می شود.

در اینجا تعریف دیگری از واقعیت وجود دارد: سریعترین نسخه عملکردی از تمام جزئیات ممکن و درجات آزادی. اگر می‌توانستید تمام مولکول‌های یک سلول و تمام سلول‌های بدن انسان را مدل‌سازی کنید، این مدل به سرعت بدن انسان عمل نمی‌کرد. مهم نیست که چقدر متفکرانه چنین مدلی را طراحی می کنید، باز هم باید زمان خود را صرف آزمایش کنید، و فرقی نمی کند که یک سیستم واقعی باشد یا شبیه سازی.

برای مفید بودن، هوش مصنوعی باید به دنیا معرفی شود و در این دنیا سرعت لازم برای نوآوری به سرعت در حال تغییر است. بدون آزمایش های اولیه، نمونه های اولیه، اشتباهات و درگیری با واقعیت، عقل می تواند فکر کند، اما نتیجه ای نخواهد داشت. او یک ثانیه یا یک ساعت یا یک سال پس از اینکه او را «باهوش‌تر از انسان» نامیدند، هیچ کشف فوری نخواهد کرد.

هوش مصنوعی ظاهر می شود. البته، سرعت کشف با پیچیده‌تر شدن این هوش مصنوعی افزایش می‌یابد، تا حدی به این دلیل که هوش مصنوعی خارجی سوالاتی را می‌پرسد که هیچ انسانی نمی‌پرسد، اما حتی هوش بسیار قدرتمند (در مقایسه با ما) پیشرفت فوری را تضمین نمی‌کند. حل مسائل به چیزی بیش از هوش نیاز دارد.

مشکلات سرطان و امید به زندگی تنها مشکلاتی نیستند که هوش به تنهایی نمی تواند آنها را حل کند. یک تصور غلط رایج در میان طرفداران تکینگی فناوری این است که اگر ما هوش مصنوعی هوشمندتر از انسان ایجاد کنیم، ناگهان تکامل می‌یابد و حتی هوش مصنوعی هوشمندتری ایجاد می‌کند.

هوش مصنوعی جدید عمیق‌تر فکر می‌کند و چیزی حتی هوشمندتر اختراع می‌کند و به همین ترتیب تا زمانی که چیزی شبیه به خدا اختراع شود. هیچ مدرکی مبنی بر اینکه فکر کردن به تنهایی برای ایجاد سطوح جدید هوش کافی است وجود ندارد. این نوع تفکر مبتنی بر ایمان است.

با این حال، شواهد زیادی وجود دارد که نشان می دهد اختراع هوش مؤثر جدید نه تنها به تلاش ذهنی نیاز دارد، بلکه به آزمایش ها، داده ها، سوالات دشوار، ازمایش و خطا.

می فهمم که ممکن است اشتباه کنم. در حالی که ما در مرحله اولیه. شاید بتوانیم مقیاس جهانی هوش یا بی نهایت بودن آن را به تمام معنا کشف کنیم. احتمال یک تکینگی تکنولوژیک وجود دارد، زیرا ما اطلاعات کمی در مورد هوش و خودآگاهی داریم. به نظر من، همه چیز نشان می دهد که این بعید است، اما هنوز فرصت وجود دارد.

با این حال، من از اهداف گسترده‌تر OpenAI حمایت می‌کنم: ما باید هوش مصنوعی دوستانه را توسعه دهیم و بفهمیم که چگونه به آن ارزش‌هایی بدهیم که خود تکرار شونده و همسو با ما هستند.

این احتمال وجود دارد که هوش مصنوعی مافوق بشر در درازمدت مضر باشد، اما این ایده بر اساس شواهد ناقص است و نباید در مورد علم، سیاست یا پیشرفت جدی گرفته شود.

برخورد یک سیارک به زمین می تواند ما را نابود کند، این یک احتمال است (بنیاد B612 این را تایید می کند)، اما ما نباید چنین نتیجه ای را در مسائل گرمایش جهانی، سفرهای فضایی یا برنامه ریزی شهری در نظر بگیریم.

شواهد موجود نشان می دهد که به احتمال زیاد هوش مصنوعی فوق بشری نخواهد بود. او انواع جدیدی از تفکر خواهد داشت که برای انسان غیرقابل دسترس است، اما بدون کاربرد همه جانبه او به خدایی تبدیل نخواهد شد که مشکلات اصلی ما را در یک لحظه حل کند.

در عوض تبدیل به تجمیع عقول با معلولیت ها، در زمینه هایی که برای ما ناآشنا است بهتر از ما کار خواهد کرد و همراه با ما قادر خواهیم بود راه حل هایی برای مشکلات موجود و جدید پیدا کنیم.

من درک می کنم که ایده هوش مصنوعی فوق بشری و خداگونه چقدر جذاب است. او می تواند سوپرمن جدید شود. اما مانند سوپرمن، او یک شخصیت خیالی است. سوپرمن ممکن است جایی در جهان وجود داشته باشد، اما بسیار بعید است. به هر حال، اسطوره ها می توانند مفید باشند و پس از ایجاد، ناپدید نمی شوند.

ایده سوپرمن برای همیشه زنده خواهد ماند. ایده هوش مصنوعی فوق بشری و تکینگی اکنون در حال ظهور است و هرگز فراموش نخواهد شد. ما باید بفهمیم که این چه نوع ایده است: مذهبی یا علمی. اگر به بررسی مسئله هوش مصنوعی یا طبیعی بپردازیم، باید به وضوح درک کنیم که ایده های ما در مورد هوش مصنوعی فوق بشری فقط یک افسانه است.

قبایل در جزایر منزوی میکرونزی اولین بار در طول جنگ جهانی دوم با جهان خارج ارتباط برقرار کردند. خدایان از سرزمین های دور پرواز کردند، از بهشت ​​بر روی پرندگان پر سر و صدا فرود آمدند، هدایایی آوردند و برای همیشه پرواز کردند. فرقه های بازگشت این خدایان و هدایای جدید در سراسر جزایر گسترش یافت. حتی اکنون، پس از 50 سال، بسیاری هنوز منتظر بازگشت خود هستند.

هوش مصنوعی مافوق بشر می تواند به فرقه بار جدید ما تبدیل شود. شاید صد سال بعد، مردم زمان ما را به همین شکل درک کنند: گویی ما به هوش مصنوعی فوق بشری اعتقاد داشتیم و دهه ها منتظر بودیم تا هر لحظه ظاهر شود و هدایایی غیرقابل تصور برای ما به ارمغان بیاورد.

با این حال، هوش مصنوعی غیر مافوق بشری در حال حاضر وجود دارد. ما همچنان به دنبال تعریف جدیدی برای آن هستیم تا آن را پیچیده کنیم. با این حال، در یک مفهوم گسترده، ذهنی که با ما بیگانه است، طیفی از قابلیت های فکری، تفکر، مکانیسم های استدلال، یادگیری و خودآگاهی است. هوش مصنوعی در حال گسترش است و به گسترش خود ادامه خواهد داد. عمیق تر، متنوع تر، قدرتمندتر می شود.

قبل از هوش مصنوعی، هیچ اختراعی نمی توانست جهان را به طور کامل تغییر دهد. تا پایان قرن بیست و یکم، هوش مصنوعی آنقدر قدرتمند خواهد شد که همه چیز را در زندگی ما تغییر خواهد داد.

به هر حال، اسطوره هوش مصنوعی فوق بشری که به ما ثروت فوق العاده یا بردگی فوق العاده (یا هر دو) می دهد، ادامه خواهد داشت. با این حال، این یک افسانه باقی خواهد ماند که بعید است به واقعیت تبدیل شود.»

وقتی مردم فناوری‌هایی را مشاهده می‌کنند که مانند انسان‌ها و رایانه‌هایی که حجم عظیمی از داده‌ها را پردازش می‌کنند، رفتار می‌کنند، افکار زیادی در مورد آینده به وجود می‌آیند. بخش خوبی از آنها بر اساس موضوع بردگی نسل بشر است.

ادبیات علمی تخیلی و سینما از 2001: ادیسه فضایی (1968) تا Avengers: Age of Ultron (2015) پیش‌بینی می‌کنند که هوش مصنوعی از انتظارات سازندگانش فراتر خواهد رفت و از کنترل خارج خواهد شد. گویا هدف آن فقط رقابت با انسان ها نیست، بلکه بردگی و نابودی گونه ما خواهد بود.

علمی تخیلی یا آینده ترسناک؟

تضاد بین مردم و هوش مصنوعی موضوع اصلی سریال علمی تخیلی «انسان» است که فصل سوم آن امسال منتشر شد. در قسمت های جدید، افراد «مصنوعی» با خصومت مردم عادی مواجه می شوند که با آنها با سوء ظن، ترس و نفرت رفتار می کنند. خشونت بیداد می کند. «سینث ها» برای حقوق اولیه خود با کسانی که آنها را غیرانسانی می دانند مبارزه می کنند.

فانتزی افراطی تخیل است. اما حتی در دنیای واقعی، همه نمی خواهند با آغوش باز از هوش مصنوعی استقبال کنند. در سال های اخیر، مرزهای توانایی های خیالی هوش مصنوعی به طور فعال در حال گسترش است. مردم به طور فزاینده ای در مورد خطرات آن صحبت می کنند. و فرضیات مبنی بر اینکه فناوری می تواند بشریت را نابود کند، واقع بینانه تر به نظر می رسد. هوش مصنوعی ما را می ترساند.

نظر در مورد هوش مصنوعی

ایلان ماسک یکی از برجسته ترین افرادی است که در بحث هوش مصنوعی احتیاط می کند. ژوئیه گذشته، در جلسه انجمن ملی فرمانداران، او گفت: "من تجربه زیادی در زمینه هوش مصنوعی دارم و فکر می کنم این چیزی است که بشریت واقعاً باید نگران آن باشد. زنگ خطر را مدام به صدا در می‌آورم. تا زمانی که ماشین‌های روباتیک در خیابان‌ها راه نروند و مردم را نابود کنند، ما نمی‌توانیم به این موضوع واکنش نشان دهیم، زیرا چنین چشم‌اندازی غیرواقعی تلقی می‌شود.»

در سال 2014، ماسک هوش مصنوعی را "بزرگترین تهدید وجودی ما" خواند و در آگوست 2017 گفت که هوش مصنوعی خطری بزرگتر از ایدئولوژی کره شمالی برای بشریت دارد.

فیزیکدان بزرگ استیون هاوکینگ نیز در مورد استفاده بدخواهانه از هوش مصنوعی ابراز نگرانی کرده است. در سال 2014، او به بی بی سی گفت که "توسعه هوش مصنوعی تمام عیار می تواند پایانی برای بشریت باشد."

ضربه دیگری توسط تیمی از برنامه نویسان آزمایشگاه رسانه MIT در کمبریج وارد شد که تصمیم گرفتند ثابت کنند که هوش مصنوعی خطرناک است. شبکه عصبی Nightmare Machine که در سال 2016 در MIT معرفی شد، عکس های معمولی را به مناظر وحشتناک و شیطانی تبدیل کرد. هوش مصنوعی به نام Shelly (همچنین در MIT توسعه یافته) 140000 داستان ترسناک ایجاد کرد که کاربران Reddit در انجمن r/nosleep پست کردند.

مانوئل سبرین، مدیر تحقیقات آزمایشگاه رسانه MIT، در مورد این آزمایش اظهار داشت: ما به این موضوع علاقه مندیم که هوش مصنوعی چگونه احساسات را برمی انگیزد، به ویژه در این موقعیت که باعث ترس می شود.

چرا می ترسیم؟

به گفته کیلیان واینبرگر، استادیار علوم کامپیوتر در دانشگاه کرنل، برداشت های منفی از هوش مصنوعی به دو دسته تقسیم می شود:

این ایده که هوش مصنوعی آگاهانه مستقل می شود و سعی می کند ما را نابود کند.
این عقیده که مهاجمان از هوش مصنوعی برای اهداف خود استفاده خواهند کرد.

هوش مصنوعی ما را می ترساند زیرا فکر می کنیم هوش مصنوعی فوق صنعتی که از یک فرد باهوش تر شده است، با او به عنوان موجودی پست رفتار می کند. درست مانند کاری که ما با نخستی ها انجام می دهیم. و این البته برای بشریت بسیار هیجان انگیز است.»

با این حال، واینبرگر خاطرنشان می کند که نگرانی ها در مورد برتری هوش مصنوعی و میل ویران کننده نژاد بر اساس تصورات غلط در مورد این فناوری است. وقتی هوش مصنوعی را در عمل می بینیم چشمگیر است. اما محدودیت های زیادی هم دارد. هوش مصنوعی توسط الگوریتم ها تعیین می شود. آنها رفتار آن را با استفاده از توابع تجویز شده و نه بیشتر تعریف می کنند.

شبکه های عصبی وظایف پیچیده ای را بر روی انواع مختلف داده انجام می دهند. اما بیشتر مهارت هایی که یک فرد دارد، حتی بدون توسعه عمدی آنها، برای هوش ماشینی غیرقابل دسترس است.

هوش مصنوعی می تواند چندین برابر انسان در انجام کارهای تخصصی برتری داشته باشد. به عنوان مثال، بازی شطرنج، شناسایی اشیاء از روی یک تصویر، یا تحلیل عالیداده ها در بخش حسابداری یا بانکی

هوش مصنوعی که آگاهی مستقلی داشته باشد، چنان پیشرفتی نخواهد داشت که بشریت را به بردگی درآورد. واینبرگر اضافه می کند که هیچ دلیلی وجود ندارد که باور کنیم چنین پیشرفتی در آینده نزدیک ظاهر خواهد شد.

اما موضوع دیگری در مورد اینکه چرا هوش مصنوعی ما را می ترساند وجود دارد - استفاده از قابلیت های هوش مصنوعی توسط افرادی با نیت بد. این سناریو واقعی تر و خطرناک تر است.

آیا ترس ما منطقی است؟

در دنیای سریال تلویزیونی «انسان ها»، بشریت از هوش مصنوعی می ترسد و وارد یک رویارویی خشونت آمیز با آن می شود. و با قضاوت بر اساس محبوبیت پروژه، این داستان به نیازهای فعلی جامعه پاسخ می دهد.

ترس از فناوری را نمی توان بی اساس نامید، زیرا مطمئناً یک خطر خاص وجود دارد. اما خطر هر ابزاری در افکار کسی است که آن را کنترل می کند. بدیهی است که این دقیقاً همان سؤالی است که بشریت باید حل کند تا هوش مصنوعی در خدمت خیر باشد.

و دیگر محققان برجسته نامه ای سرگشاده نوشته اند و خواستار استانداردهای ایمنی در توسعه هوش مصنوعی (AI) شده اند. /سایت اینترنتی/

آنها به ویژه خواستار تحقیق و توسعه یک سیستم کنترل قابل اعتماد بودند که از آسیب رساندن به هوش مصنوعی معیوب به مردم جلوگیری کند. در این نامه آمده است: «کار فنی باید برای اطمینان از کنترل کامل انسانی انجام شود.

با وجود لحن معتدل نامه، لودیت ها که از فناوری های جدید می ترسیدند، وحشت کردند. در پاسخ، مصاحبه ها و اظهارات بسیاری از سوی دانشمندان در مطبوعات منتشر شد و این ترس ها را از بین برد.

اندرو نگ، کارشناس هوش مصنوعی در Baidu، به Fusion گفت: "من سناریوی واقع بینانه ای نمی بینم که چگونه نرم افزاری که امروز روی آن کار می کنیم می تواند مختل شود."

به نوبه خود، اسکات الکساندر، روزنامه نگار، فهرستی از دانشمندان مشهوری که در توسعه هوش مصنوعی مشارکت داشتند، تهیه کرد خطر بالقوهاز سمت هوش مصنوعی

ترس و دلهره

استوارت راسر، استاد علوم کامپیوتر در دانشگاه کالیفرنیا، برکلی، توسعه کنترل‌های هوش مصنوعی را با اجرای اقدامات ایمنی برای راکتورهای هسته‌ای مقایسه کرد.

برخی معتقدند که این موضوع در چند صد سال آینده خطری برای بشریت ایجاد نخواهد کرد. آنها فراموش می کنند که لئو زیلارد واکنش زنجیره ای هسته ای را 24 ساعت پس از اینکه رادرفورد با اطمینان اعلام کرد که انرژی اتمی هرگز تولید نخواهد شد، کشف کرد.

راسل از نظر او تنها نیست. در یک نظرسنجی در سال 2014 از 170 متخصص برجسته هوش مصنوعی توسط وینسنت مولر و نیک بوستروم، 18 درصد معتقد بودند که ایجاد یک ماشین فوق هوشمند یک "فاجعه واقعی" برای بشریت خواهد بود. 13 درصد گفتند که هوش مصنوعی پیشرفته عواقب منفی برای مردم خواهد داشت. بیش از نیمی از دانشمندان گفتند که این اثر مثبت خواهد داشت.

اگرچه کارشناسان نظرات متفاوتی در مورد تأثیر هوش مصنوعی دارند، اکثر آنها موافقند که ایجاد هوش مصنوعی پیشرفته فقط موضوع زمان است. طبق پیش بینی ها، هوش مصنوعی برابر با انسان در اوایل سال 2050 (احتمال 50٪) یا تا سال 2075 (احتمال 90٪) ایجاد می شود. و 30 سال پس از ایجاد آن، ابر هوش مصنوعی ظاهر خواهد شد که در همه جنبه ها از انسان پیشی خواهد گرفت.

کامیون های دیوانه

یک قیام ماشینی ممکن است چگونه باشد؟ فیلم‌های علمی تخیلی مانند «ترمیناتور»، «ربات»، «انیماتریکس» جنگ بین مردم و سایبورگ‌ها را نشان می‌دهند.

با قضاوت بر اساس فیلم های علمی تخیلی، بسیاری ممکن است این تصور را داشته باشند که از خطر بالقوه به راحتی می توان جلوگیری کرد.

با این حال، هوش مصنوعی برای به دست آوردن قدرت در دنیای واقعی نیازی به داشتن بدنه مکانیکی ندارد: می تواند به سادگی شروع به کنترل همه دستگاه های الکترونیکی روزمره ما کند.

استیون کینگ چنین سناریویی را در داستان «کامیون ها» ارائه کرد. در داستانی که در دهه 70 نوشته شده است، کامیون ها هوشیار می شوند و شروع به حمله به مردم می کنند. گروهی از مردم از کامیون های خشمگین پنهان شده اند. کامیون‌ها هنوز برای کار کردن به سوخت نیاز دارند و از کد مورس استفاده می‌کنند تا به مردم دستور دهند تا آنها را پر کنند وگرنه بولدوزر پناهگاه آنها را منفجر می‌کند. مردم اطاعت می کنند.

داستان با این دیدگاه راوی به پایان می رسد که کامیون ها بشریت را به بردگی گرفته اند و ارزش های خود را در همه جا تحمیل می کنند، به عنوان مثال آنها را مجبور به ساخت بزرگراه در سراسر جهان می کنند. صدای پرواز هواپیما در آسمان او را از دنیای خیالی اش بیرون می آورد.

داستان استیون کینگ ممکن است در دوره ای که در آن نوشته شده بود آینده نگرانه به نظر می رسید، اما چندان دور از واقعیت نیست. دنیای مدرن. کامیون های خودراندر حال حاضر وجود دارد، و در آینده، شرکت ها ممکن است به منظور صرفه جویی در هزینه، رانندگان را با یک سیستم ناوبری مستقل جایگزین کنند.

هک سونی در سال گذشته نشان می دهد که سیستم های اطلاعاتی ما به طور فزاینده ای آسیب پذیر می شوند. این یکی از پیامدهای افزایش کامپیوتری شدن زیرساخت ها است.

با این حال، هنوز دلیلی برای نگرانی وجود ندارد. هوش مصنوعی کارهایی برای انجام دادن دارد مسافت طولانی، قبل از اینکه بتواند با مغز انسان مطابقت داشته باشد. نمونه کامیون های خودران این را به خوبی نشان می دهد. آنها هنوز برای رانندگی مستقل در خیابان های شلوغ شهر بسیار ناقص هستند.

آیا برنامه ای را برای خواندن مقالات وب سایت epochtimes روی گوشی خود نصب می کنید؟

استیون هاوکینگ هشدار می دهد که هوش مصنوعی تهدیدی برای انسان است. هوش مصنوعی ایجاد شده توسط انسان می تواند به بزرگترین فاجعه(!) در رقابت با تمدن بشری تبدیل شود.

هوش مصنوعی، روبات های آینده - پشتیبانی انسانی

هوش الکترونیکی می تواند تمدن ماشینی خود را ایجاد کند و در نتیجه تبدیل به یکی از جدی ترین تهدیدات برای بشریت شود.

پیش بینی خطر از فیزیکدان معروف استیون هاوکینگ (که جهان هستی را کشف کرد) می آید. برای زمان ما، این البته یک تهدید بالقوه است، اما یک "روز خوب" در آینده، هوش مصنوعی ممکن است "اراده خود" را توسعه دهد. حالا وقت آن است که به طور جدی به این موضوع فکر کنیم.

این فیزیکدان بار دیگر هشدار داد: هوش مصنوعی می تواند به یک ساختار تفکر کامل تبدیل شود. آنقدر پیچیده و باهوش که او بر توانایی رشد و درک جهان مطابق با اراده خود مسلط خواهد شد که ممکن است با برنامه های بشریت در تضاد باشد.

این می تواند منجر به ظهور سلاح های قدرتمند و از دست دادن قلمرو کنترل شده توسط بشریت شود. - پروفسور هاوکینگ از محققان می‌خواهد که مشکل رفتار هوش مصنوعی و احتمالات آن در آینده را با دقت مطالعه کنند.

باید گفت که پروفسور هاوکینگ ایده هوش مصنوعی را در یک حوزه منفی رد نمی کند. دانشمند اشاره می کند که اگر ما را بسازیم مشق شبو تحقیقات به اندازه کافی خوب است، ما می توانیم آن را انجام دهیم.

با دستیار مانند هوش مصنوعی، می توانیم به موفقیت برسیم تصویر بهتراین فیزیکدان می گوید زندگی. هوش مصنوعی می تواند به بشریت کمک کند تا بیماری و فقر را ریشه کن کند.

پروفسور هاوکینگ در افتتاحیه مرکز The Leverhulme صحبت کرد و به سودمندی هوش ماشینی و جنبه‌های منفی آن اشاره کرد. این مرکز برای آینده هوش ایجاد شده است و برای انجام تحقیقات و بررسی پیامدها طراحی شده است توسعه سریعهوش مصنوعی

لازم به یادآوری است که برای استیون هاوکینگ 100 سال یک لحظه است. در واقع، هوش مصنوعی‌های هوشمند حتی مربوط به صد سال آینده نیستند، مگر اینکه کسی پردازنده‌ای از سال 2135 بیاورد.

مرکز Leverulm برای آینده هوش مصنوعی همکاری بین چندین دانشگاه در بریتانیا و ایالات متحده را گرد هم خواهد آورد. ایده ایجاد یک جامعه تحقیقاتی بین رشته ای است.

این تیم قصد دارد با تجارت و دولت همکاری نزدیک داشته باشد تا در کنار سایر وظایف، خطرات و مزایای کوتاه‌مدت و بلندمدت شرط‌بندی بر روی هوش مصنوعی را تعیین کند. مدیر مرکز قیمت هاو اطمینان داد: ایجاد ماشین های هوشمند است مرحله مهمبشریت، و مرکز تلاش خواهد کرد تا "بهترین آینده" را بسازد.

این مرکز علاوه بر گستردگی تحقیقات خود، پیامدهای توسعه سریع ماشین‌های هوشمند مانند روبات‌ها را تجزیه و تحلیل خواهد کرد. روبات هایی که برای مشکلات راه حل ارائه می دهند زندگی روزمره، خطرات و معضلات اخلاقی را برای بشریت ایجاد کند. بسیاری از مردم، بدون اعتماد به الکترونیک، از هوش مصنوعی می ترسند و علاوه بر این، هوش دیجیتالی می تواند از هوش انسان پیشی بگیرد و زندگی انسان را کنترل کند.

من معتقدم که هیچ تفاوت عمیقی بین آنچه می توان با یک مغز بیولوژیکی به دست آورد و آنچه می توان با یک کامپیوتر به دست آورد وجود ندارد. بنابراین، نتیجه می شود که، از نظر تئوری، رایانه ها می توانند هوش انسان را تقلید کنند - از آن پیشی بگیرند. اس. هاوکینگ.

پروفسور هاوکینگ معتقد است که مزایای بالقوه هوش مصنوعی در زندگی ما بسیار زیاد است. چنین انقلاب تکنولوژیکی می تواند به بشریت کمک کند تا برخی از آسیب های وارد شده به سیاره را معکوس کند. پروفسور هاوکینگ می گوید: "موفقیت در ایجاد هوش مصنوعی می تواند بزرگترین رویداد در تاریخ تمدن باشد."

اما این می‌تواند آخرین گام در تاریخ بشریت باشد، مگر اینکه یاد بگیریم چگونه از خطرات اجتناب کنیم، زیرا در کنار فواید، هوش مصنوعی می‌تواند خطراتی را نیز به همراه داشته باشد: سلاح‌های قدرتمند، راه‌های جدید برای افراد معدودی برای سرکوب بسیاری از افراد. در نهایت، این ممکن است با تسلط اجسام آهنی بر اجسام بیولوژیکی خاتمه یابد و باعث فجایع بزرگ در آینده شود.

اگر هوش مصنوعی، و ما در مورد هوش با توانایی شروع انتخاب رفتار صحبت می کنیم، با جنبه های زندگی یک فرد در تضاد باشد، چه؟ پس از همه، پس از آن دستیار آهنی مطیع در آشپزخانه می تواند به عنوان یک دیکتاتور شرایط دوباره آموزش ببیند!

- توسعه هوش مصنوعی قدرتمند یا بهترین یا بدترین اتفاقی است که برای بشریت رخ خواهد داد. پروفسور هاوکینگ می گوید: ما نمی دانیم آینده چه خواهد بود. به همین دلیل، در سال 2014، من و بسیاری دیگر خواستار تحقیقات بیشتر در این زمینه شدیم. پروفسور هاوکینگ در افتتاحیه مرکز به این نتیجه رسید که من بسیار خوشحالم که کسی صدای من را شنید.

او عاشق پیش بینی کردن است. این مخترع در مصاحبه با خبرنگاران گفت: من معتقدم که هوش مصنوعی دیر یا زود همه ما را خواهد کشت. به گفته ماسک، مشکل هوش مصنوعی غیرقابل کنترل در آینده بدتر از کره شمالی خواهد بود. این میلیاردر شانس بشریت برای زنده ماندن در رویارویی با ماشین ها را تنها 5 تا 10 درصد تخمین می زند. در همان زمان، قیام ماشین ها، مانند فیلم "نابودگر" ممکن است در دهه آینده رخ دهد. آیا ایلان ماسک درست است و آیا سرنوشت حیوانات خانگی زیر روبات ها در انتظار ما خواهد بود؟ بیایید آن را بفهمیم.

هوش مصنوعی چیست. تعریف و ماهیت این مفهوم

اصطلاح هوش از کلمه لاتین intellectus گرفته شده است که به معنای ذهن، عقل، هوش و توانایی های تفکر یک فرد است. هوش مصنوعی، هوش مصنوعیهوش مصنوعی را می‌توان به عنوان توانایی ماشین‌ها، روبات‌ها برای به دست گرفتن عملکردهای هوش انسانی، به عنوان مثال، تصمیم‌گیری از چندین مورد ممکن بر اساس تجربه و موقعیت بیرونی تعریف کرد.

تاریخچه ایجاد هوش مصنوعی

اگر فکر می کنید که مفهوم هوش مصنوعی محصول دوران مدرن است، سخت در اشتباهید. ایده ایجاد موجودات مکانیکی شبیه به انسان در دوران باستان سرچشمه گرفته است. بنابراین، مصریان باستان مجسمه ای مکانیکی از خدای خود آمون ساختند و ایلیاد هومر روند خلق موجودات مکانیکی توسط هفائستوس را شرح می دهد. ارسطو قوانین اساسی منطق صوری را تشکیل داد. از این نظر می توان او را «پدر» هوش مصنوعی دانست. ریموند لول، ریاضیدان و فیلسوف اسپانیایی، سعی کرد ماشینی بسازد که بتواند مسائل فکری را حل کند. اما یک جهت کاملاً جدید از علم تنها در دهه 40 قرن گذشته و پس از ایجاد رایانه های الکترونیکی و ظهور علمی مانند سایبرنتیک ظاهر شد. این علم توسط نوربرت وینر ایجاد شده است.

اولین تلاش برای تعریف مفهوم هوش مصنوعی توسط دانشمند انگلیسی آلن تورینگ انجام شد. او در مقاله‌اش «ماشین‌های محاسباتی و هوش» «تست تورینگ» خود را پیشنهاد کرد. در این متن، هوش یک کامپیوتر با قابلیت‌های آن برای گفت‌وگوی هوشمند با یک فرد مورد ارزیابی قرار گرفت.

در کار دانشمندان برای ایجاد هوش مصنوعی، چندین مرحله قابل تشخیص است. جهت اول تحلیلی، عملکردی است. به ماشین ها وظایف خاصی داده می شود که ماهیت خلاقانه دارند. به عنوان مثال، کشیدن یک تصویر، ترجمه یک متن ادبی از یک زبان به زبان دیگر.

جهت دوم کار مصنوعی یا مدل است. دانشمندان در تلاش برای مدل سازی هستند فعالیت خلاقمغز در به معنای کلی. ماهیت مطالعه بازتولید فرارویه های تفکر بود. یعنی اینکه چه چیزی یاد می‌گیرید، مهم نیست که چگونه یاد می‌گیرید، نه آنچه اختراع می‌کنید، بلکه نحوه انجام آن است. در داخل این جهتدو مدل تکامل یافته است. یکی از آنها مدل لابیرنت بود. ماهیت آن شمارش تمام گزینه های ممکن است. به عنوان مثال، بیایید یک بازی شطرنج را در نظر بگیریم. برنامه حرکت بعدی را انجام می دهد و موفقیت یا شکست خود را «در واقع» ارزیابی می کند: تصرف مهره های شخص دیگری، به دست آوردن یا از دست دادن یک مزیت موقعیتی و غیره.

منطق چنین برنامه ای این است که موفقیت در هر حرکت به پیروزی در کل بازی شطرنج منجر می شود. با این حال، هر شطرنج‌بازی به شما می‌گوید که می‌توانید یک یا چند مهره را قربانی کنید، به وخامت ظاهری موقعیت خود بروید تا تله‌ای برای پادشاه حریف ترتیب دهید. در این صورت، چندین حرکت متوالی به طور رسمی بازنده خواهد بود، اما کل بازی برنده خواهد بود. دو رویکرد توصیف شده، جوهره برنامه نویسی اکتشافی و پویا هستند. شطرنج‌بازانی که از رویکردی پویا در برابر برنامه‌های «ابتکاری» استفاده می‌کردند، همیشه برنده بودند. وقتی ماشین‌ها رویکردی پویا را "یاد گرفتند" وضعیت تغییر کرد.

مدل های انجمنی به توسعه بیشتر هوش مصنوعی تبدیل شدند. روانشناسی تداعی ها را به عنوان پیوند ایده ها توضیح می دهد: یک ایده باعث دیگری می شود. یک مثال قابل توجه از این اصل سگ های پاولوف است: یک لامپ روشن باعث ترشح بزاق حیوانات می شود. تصمیم هر کدام وظیفه جدیددر مدل انجمنی بر اساس مسائل قدیمی حل شده قبلی است که مشابه مسائل جدید هستند. طبقه بندی مدرن و برنامه های تشخیص الگو بر اساس مدل های انجمنی عمل می کنند.

در آینده، روبات‌ها یاد خواهند گرفت که اطلاعاتی را که دریافت می‌کنند، جمع‌آوری، پردازش و استفاده کنند. بدیهی است که برای این کار، ماشین باید یاد بگیرد که از خود سوالاتی بپرسد: "چه چیزی می خواهم بدانم" ، "برای رسیدن به هدفم به چه چیزی نیاز دارم" و غیره.

کاربردهای مدرن هوش مصنوعی

اما تا کنون ربات ها قادر به درک خود نیستند. با وجود این، آنها به طور گسترده در بسیاری از صنایع استفاده می شوند زندگی انسان: پزشکی، آموزش، تجارت، علم و زندگی روزمره. هوش مصنوعی می‌تواند فرآیندهای خودکار تولید را مدیریت کند، توانایی جمع‌آوری، ذخیره و پردازش حجم عظیمی از اطلاعات را دارد.

کامپیوتر تشخیصی IBM Watson به طور گسترده در پزشکی استفاده می شود. پایگاه داده آن حاوی میلیون ها سند پزشکی و تاریخچه موارد است. به لطف این، دستگاه قادر به تشخیص نسبتاً دقیق است. با این حال، احتمال خطا، اگرچه ناچیز است، اما همچنان وجود دارد. بنابراین، در حال حاضر، این سوپر کامپیوتر فقط یک دستیار برای پزشکان است و آنها را به طور کامل جایگزین نمی کند. و ظاهراً وضعیت در آینده قابل پیش بینی تغییر نخواهد کرد. حداقل در زمینه های حیاتی برای جامعه بشری.

چگونه هوش مصنوعی بر بشریت تأثیر می گذارد

بر اساس موارد فوق، ممکن است این تصور را داشته باشید که هوش مصنوعی منحصراً برای انسان مفید است. با این حال، اینطور نیست. ورود ماشین آلات به تولید و بانکداری باعث شده است که میلیون ها نفر در سراسر جهان شغل خود را از دست بدهند. برخی از دولت ها در حال حاضر به شهروندان خود بدون قید و شرط پرداخت می کنند حداقل پرداختبرای حفظ وجود طبیعی

در ژاپن نوازندگان ربات، معلمان، کارمندان هتل و غیره وجود دارند. هوش مصنوعی در سرزمین طلوع خورشید از افراد مسن تنها حمایت می کند. و مثال های زیادی از این دست می توان زد.

آیا حمله ربات ممکن است؟

آیا بشریت مانند فیلم «نابودگر» با تهاجم ماشین‌ها مواجه است؟ در مرحله ای از توسعه هوش مصنوعی، این ممکن است به واقعیت تبدیل شود. یک حادثه این ایده را نشان می دهد. از سوپر روبات سوفیا پرسیده شد که با بشریت چه خواهد کرد؟ او به این سوال صریح پاسخ داد: "من می کشم."

مهندسان آزمایشی را انجام دادند. چندین ماشین که رفتار انسان را شبیه سازی می کردند به حال خود رها شدند. در چنین شرایط خودمختار، آنها یک زبان رسمی جدید اختراع کردند و شروع به برقراری ارتباط با یکدیگر کردند.

هوش مصنوعی با درک خود ممکن است فرد را زائد بداند. شاید آنها به سادگی ما را "پاکسازی" کنند و چندین هزار نفر را در "ذخایر" بگذارند. اما گزینه دیگری نیز امکان پذیر است: افراد شروع به کاشت شبکه های عصبی خاصی می کنند، بنابراین ترکیبی از یک ربات و یک فرد تشکیل می شود. در این صورت انسان ها با ربات ها رقابت می کنند و نابود نمی شوند. به هر حال، این موضوع مربوط به آینده ای بسیار دور است.