Agar siz mening oldimga kelmoqchi bo'lsangiz, unda siz to'g'ri keling, yoki men sizning kichkina tortishuvingizni koptok bilan o'ynayotgan mushukka o'xshataman.

Birinchidan, men o'qidim.

Ikkinchidan, men hayotingiz davomida o'qimaganingizdan ko'ra ko'proq ilmiy ishlarni unutganman.

Uchinchidan, siz pop falsafasi kitobini yozgan ahamiyatsiz hokimiyatga murojaat qilasiz. Menga ilmiy bilimlarimni tinglash yoqdi va bu shu bilan bog'liq. Mantiqiy xatolaringiz bilan mening oldimga kelmang.

To'rtinchidan, agar siz haqiqatan ham AI ustida ishlayotgan odamlarni o'qisangiz, bilasizmi, AI u tavsiflagan narsa kabi ishlamaydi va Bostrom odamlar ilmiy tahlil emas deb o'ylaydigan narsalar bo'yicha so'rov o'tkazadi. Bu hazil. Hatto OpenAI-da Musk-da ishlagan jasur yigitlar ham zo'ravonlikni sotib olmaydilar.

AIning haqiqiy tadqiqotchilari Bostrom haqida nima deyishgan va superinteligentsiya qachon paydo bo'lishi haqidagi savolga:

https://www.technologyreview.com/s/602410/no-the-experts-dont-think-superintelligent-ai-is-a-threat-to-humanity/

“Yo'l, yo'l, yo'l 25 yildan oshiq. Asrlar ehtimol. Ammo hech qachon. ”

"Biz millionlab yillar davomida inson miyasining evolyutsiyasi bilan raqobatlashmoqdamiz. Biz odamlar bilan raqobatlasha oladigan va ba'zan ustunlikka ega bo'lgan bitta maqsadli dasturlarni yoza olamiz, ammo dunyo bitta muammoli savollarga yaxshi ajratilmagan. "

"Nik Bostrom - bu qo'rqinchli monger. Uning institutning roli insoniyat uchun mavjud bo'lgan tahdidlarni topishdir. U ularni hamma joyda ko'radi. ”

Biz botqoqdan chiqib kelganimizdan beri odamlar mavjud bo'lgan xavf haqida orzu qilishgan. Avvaliga momaqaldiroq gumburladi. Agar biz raqsga tushmasak yoki o'z vaqtida echki qurbon qilmasak, yomg'ir Xudo bizga g'azabini keltiradi. Keyin bu kaplumbağa qobig'i yorilib, imperatorga biron yomon narsa bo'lishi kerakligini aytdi. Keyin bu sanoatlashtirish edi. Biz katta xavflarni yaxshi ko'ramiz. Endi bizda super AI bor.

Agar siz ommabop kitob yozmoqchi bo'lsangiz, o'zingizga yoqqan har qanday tahdidni tanlang: u chet elliklar, meteorlar, Xudo bizdan g'azablangan yoki super aqlli AI bo'lib, uni million ahmoqlarga sotishingiz mumkin. Ammo siz bu xayolni sotolmaysiz va akademik tadqiqotlar kabi gaplasha olmaysiz. Bunday emas. Bu qiyomat kuni ibodatidir. Sizni soxta ilmiy tadqiqotlar va domenning o'ziga xos tilida qanday bezashingizdan qat'i nazar, yangi emas, bu sizni o'zingizdan ko'ra ko'proq aqlli his qiladi. Bu Jannat Darvozasidan bir pog'ona yuqoridir.

Biz qo'rquvga asoslangan mavjudotmiz va agar siz qo'rquvni sotmoqchi bo'lsangiz, har doim xaridor topasiz. Sababi Stiven King dunyodagi eng yirik yozuvchilardan biri.

Beshinchidan, mavjud bo'lmagan muammoni qanday hal qilishni taklif qilasiz? Qonunchilik? Ishonchim komilki, Xitoy ushbu qonunni buzadi va uni davom ettirmaydi. Ishonchim komilki, superinteligent AIslar sahnada paydo bo'lgan taqdirda ham ularga g'amxo'rlik qilishadi.

Oltinchidan, siz haqiqiy bo'lmagan uzoq ekzistensial tahdidlar haqida xavotirda bo'lsangiz, bizda haqiqiy AI mavjud bo'lib, odamlarni qamoqqa tashlaydi, qarz olish-bermaslik to'g'risida qaror qabul qiladi va mashina haydaydi. Hech qanday echim topilmaydigan va shunchaki qo'rquvni qo'zg'atadigan xayoliy muammolarning o'rniga endi biz hal qila oladigan haqiqiy muammolar haqida tashvishlanish vaqti keldi.