Mashinalar doimo ongli bo'lib qoladimi? Ilmiy Amerika

Mashinalar doimo ongli bo'lib qoladimi?

Scientific American - bu ilm-fan va texnologiyaning eng hayratlanarli yutuqlari uchun muhim qo'llanma bo'lib, ular dunyo haqidagi tushunchamizni qanday o'zgartirishi va hayotimizni qanday shakllantirishini tushuntiradi.
08.09.2021

Kristof Koch- Sietldagi Allen instituti va Santa-Monikadagi Tiny Blue Dot Foundation fondi bosh mutaxassisi, shuningdek, "Hayotning o'zi-nima uchun ong keng tarqalgan, ammo uni hisoblash mumkin emas" kitobining muallifi . U Scientific American maslahatchilar kengashida ishlaydi.

Kredit: Nik Xiggins

Muallif

Kristof Koch- Sietldagi Allen instituti va Santa-Monikadagi Tiny Blue Dot Foundation fondining MindScope bosh ilmiy xodimi, shuningdek, "Hayotning o'zi-nima uchun ong keng tarqalgan, ammo uni hisoblash mumkin emas" kitobining muallifi . U Scientific American maslahatchilar kengashida ishlaydi.

Kredit: Nik Xiggins

Qisqacha

  • Inson darajasidagiaql -idrokka ega mashinalarufqda.
  • Ular haqiqatan hamongli bo'ladimi-yo'qminoma'lum bo'lib qolmoqda.
  • Nima uchun? Hatto eng murakkabmiya simulyatsiyalari ham ongli hissiyotlarni keltirib chiqarishi mumkin emas.

Kompyuterlarning fikrlash qobiliyatlari biznikiga yaqinlashadigan kelajak tezda paydo bo'ladi. Biz har doimgidan ham kuchli mashina o'rganish (ML) algoritmlarini bo'ynimizdan nafas olayotganimizni his qilyapmiz. Kelgusi o'n yilliklarda jadal taraqqiyot so'zlashish va mulohaza yuritishga qodir inson darajasidagi aql-idrokka ega bo'lgan, iqtisodiyot, siyosat va muqarrar ravishda urush vositalariga ko'plab hissa qo'shadigan mashinalarni yaratadi. Haqiqiy sun'iy aqlning tug'ilishi insoniyat kelajagiga, shu jumladan, kelajakka ham katta ta'sir qiladi.

Quyidagi iqtiboslar bunga misol keltiradi:

"1940 yillarning oxirlarida sun'iy intellektning so'nggi buyuk yutug'iga erishilgan paytdan boshlab, butun dunyo olimlari ushbu" sun'iy intellekt "ni zamonaviy sun'iy intellekt dasturlari erisha oladigan darajadan yuqori darajada texnologiyani takomillashtirish yo'llarini izladilar."

"Hozir ham, yangi aql-idrok dasturlari nima qila olishini yaxshiroq tushunish uchun izlanishlar olib borilmoqda. Hozirgi vaqtda dasturlashtirilgan sun'iy intellekt dasturlarining aksariyati asosan oddiy qarorlar qabul qilish yoki nisbatan kam miqdordagi ma'lumotlarda oddiy operatsiyalarni bajarish bilan cheklangan. "

Ushbu ikkita xatboshi o'tgan yozda men sinab ko'rgan til boti GPT-2 tomonidan yozilgan. San-Frantsiskodagi foydali sun'iy intellektni targ'ib qiluvchi OpenAI instituti tomonidan ishlab chiqilgan GPT-2 ML algoritmi bo'lib, u bema'ni vazifani bajaradi: ba'zi bir o'zboshimchalik bilan boshlang'ich matni bilan taqdim etilgan, keyingi so'zni oldindan aytib berishi kerak. Tarmoqda nasrni har qanday insoniy ma'noda "tushunishga" o'rgatilmagan. Buning o'rniga, mashg'ulot bosqichida u simulyatsiya qilingan neyron tarmoqlaridagi ichki aloqalarni keyingi so'zni, undan keyingi so'zni va boshqalarni eng yaxshi taxmin qilish uchun sozlaydi. Sakkiz million veb-sahifada o'qitilgan, uning ichki qismida neyronlar orasidagi bog'lanish nuqtalarini, ya'ni sinapslarni taqlid qiladigan milliarddan ortiq aloqa mavjud. Siz o'qiyotgan maqolaning birinchi jumlalarini kiritganimda,algoritm ikki paragrafni ochib berdi, bu birinchi kurs talabasi xayol surgan paytida mashina o'qitishga bag'ishlangan kirish ma'ruzasining mohiyatini eslashga urinish kabi yangradi. Chiqarishda barcha kerakli so'zlar va iboralar mavjud - yomon emas, haqiqatan ham! Ikkinchi marta bir xil matn bilan yaratilgan algoritm boshqacha narsani o'ylab topadi.

Bunday botlarning avlodlari Internetning miyazmasiga qo'shadigan "chuqur" mahsulot sharhlari va yangiliklar haqidagi to'lqin to'lqinini chiqaradilar. Ular shu paytgacha noyob inson deb hisoblagan narsalarni amalga oshiradigan dasturlarning yana bir misoliga aylanishadi - real vaqtda StarCraft strategik o'yinini o'ynash, matnlarni tarjima qilish, kitoblar va filmlar uchun shaxsiy tavsiyalar berish, odamlarni tasvir va videolarda tanib olish.

Algoritm Marcel Prustning " Yo'qotilgan vaqtni qidirishda " asari singari biron bir asarni yozishi uchun mashinani o'rganishda ko'plab qo'shimcha yutuqlarni talab qiladi , ammo kod devorda. Esingizda bo'lsin, kompyuter o'yinlarini o'ynash, tarjima va nutqni boshlashga qaratilgan barcha urinishlar qo'pol va kamsitilgan edi, chunki ularga mahorat va jilo etishmasligi aniq edi. Ammo chuqur neyron tarmoqlari va texnologik sanoatning ulkan hisoblash infratuzilmasi ixtiro qilinganligi sababli, kompyuterlar ishlab chiqarishlari xavfli bo'lib qolguncha tinimsiz yaxshilandi. Go, shaxmat va poker bilan ko'rganimizdek, bugungi algoritmlar odamlarga eng yaxshi ta'sir qilishi mumkin va ular amalga oshirilganda bizning dastlabki kulgimiz hayratga tushadi. Biz Gyotening sehrgarining shogirdiga o'xshaymizmi, u bizni boshqarolmaydigan ruhlarni chaqirganmi?

Sun'iy ongmi?

Garchi mutaxassislar tabiiy ravishda yoki boshqacha tarzda aql-idrokni tashkil etadigan narsa to'g'risida kelishmovchiliklarga qaramay, ko'pchilik ertami-kechmi kompyuterlar tilda sun'iy umumiy aql (AGI) deb nomlanadigan narsaga erishishini qabul qilishadi.

Mashina intellektiga e'tibor boshqa savollarni berkitadi: agar u AGI bo'lishni xohlasa? Dasturlashtiriladigan kompyuterlar hech qachon ongli bo'la oladimi?

"Ong" yoki "sub'ektiv tuyg'u" deganda men har qanday tajribaga xos bo'lgan sifatni, masalan, Nutellaning yoqimli ta'mi, yuqtirilgan tishning o'tkir chaqishi, zerikkan vaqtning sekin o'tishi yoki his qilishni tushunaman. raqobatbardosh tadbir oldidan hayotiylik va tashvish. Bu kabi narsa bor bo'lsa, Tomas Nagel faylasuf Channelling, biz bir tizim ongli, deb aytish mumkin bo'lishi deb tizimi.

Birdan o'zingizni gaffe qilganingizni, hazil sifatida aytmoqchi bo'lgan so'zingiz haqorat sifatida qabul qilinganini birdan anglab etishning sharmandali tuyg'usini ko'rib chiqing. Kompyuterlar hech qachon bunday g'alati tuyg'ularni boshdan kechira oladimi? Siz telefonda bo'lganingizda, daqiqadan daqiqaga kutib turganingizda va "Biz sizni kutib turganimizdan afsusdamiz" degan sintetik ovozli inton, sizni mijozlarga xizmat ko'rsatish do'zaxida ushlab turganda dastur aslida yomon his etadimi?

Bizning aql-idrokimiz va tajribalarimiz har qanday g'ayritabiiy emas, balki miyamizning tabiiy sababiy kuchlarining qaytarib bo'lmaydigan oqibatlari ekanligiga shubha yo'q. So'nggi bir necha asrlar davomida odamlar dunyoni kashf qilish jarayonida ushbu shart ilm-fanga juda yaxshi xizmat qildi. Tofuga o'xshash uch funtli inson miyasi ma'lum bo'lgan olamdagi uyushgan faol moddalarning eng murakkab qismidir. Ammo itlar, daraxtlar va yulduzlar singari jismoniy qonunlarga bo'ysunishi kerak. Hech narsa bepul yo'llanma olmaydi. Biz hali ham miyaning sabab kuchlarini to'liq tushunmayapmiz, lekin ularni har kuni boshdan kechirmoqdamiz - ranglarni ko'rayotganingizda bir neyron guruhi faol, boshqa kortikal mahalladagi otish hujayralari esa kulgili kayfiyat bilan bog'liq. Ushbu neyronlarni neyroxirurg elektrodlari rag'batlantirganda, sub'ekt ranglarni ko'radi yoki kulgidan otilib chiqadi.Aksincha, behushlik paytida miyani yopish bu tajribalarni yo'q qiladi.

Ushbu keng tarqalgan umumiy taxminlarni hisobga olgan holda, haqiqiy sun'iy aqlning rivojlanishi sun'iy ongning paydo bo'lishi haqida nimani anglatadi?

Bu savolni o'ylab, biz muqarrar ravishda ikkita tub yo'nalishga olib boradigan yo'lga boramiz. Blade Runner, Her va Ex Machina singari romanlar va filmlarda aks etgan zeitgeist, chinakam aqlli mashinalar sezgir bo'ladi, degan gumonga qarab qat'iyat bilan yurib boradi; ular gapirishadi, mulohaza yuritadilar, o'zlarini nazorat qiladilar va o'zlarini anglaydilar. Ular eo ipso ongli.

Ushbu yo'l aniq ongning hukmron ilmiy nazariyalaridan biri bo'lgan global neyronlarning ish maydoni (GNW) nazariyasi tomonidan aniq ifodalangan. Nazariya miyadan boshlanadi va uning o'ziga xos me'moriy xususiyatlari ongni keltirib chiqaradigan narsadir.

Uning nasl-nasabini 1970 yillarga oid kompyuter fanidan "doska arxitekturasi" dan topish mumkin, bunda ixtisoslashgan dasturlar doska yoki markaziy ish maydoni deb nomlangan ma'lumotlarning umumiy omboriga kirishgan. Psixologlar bunday qayta ishlash manbai miyada mavjud va inson idrokida markaziy ahamiyatga ega deb taxmin qilishdi. Uning hajmi kichik, shuning uchun faqat bitta idrok, fikr yoki xotira bir vaqtning o'zida ish joyini egallaydi. Yangi ma'lumotlar eskilar bilan raqobatlashadi va ularni yo'q qiladi.

Kognitiv nevrolog Stanislas Dehaene va molekulyar biolog Jan-Per Prenj Changeux, ikkalasi ham Parijdagi "Collège de France" da, ushbu g'oyalarni miyaning korteksining me'morchiligiga, kulrang materiyaning eng tashqi qatlamiga tushirgan. Ikkita o'ralgan kortikal choyshab, biri chapda va o'ngda, har biri 14 dyuymli pitssa kattaligi va qalinligi himoya bosh suyagiga tiqilib qolgan. Dehaene va Changeux ish joyini uzoq kortikal mintaqalar, xususan, prefrontal, parietotemporal va o'rta chiziq (singulat) assotsiativ joylar bilan bog'langan piramidal (qo'zg'atuvchi) neyronlar tarmog'i yaratadi deb taxmin qilishdi.

Miyaning aksariyat faoliyati lokalizatsiya qilingan bo'lib qoladi va shuning uchun ongsiz ravishda, masalan, ko'zlar qaerga qarashini boshqaradigan modul, biz deyarli umuman beparvo bo'lamiz yoki tanamizning holatini o'zgartiradigan modul. Ammo bir yoki bir nechta mintaqalardagi faollik chegaradan oshib ketganda, masalan, kimgadir Nutella kavanozi tasviri taqdim etilganda - bu miyadagi neyronlarning ish maydonida tarqaladigan asab qo'zg'alishi to'lqini paydo bo'lishiga olib keladi. Shuning uchun signalizatsiya til, rejalashtirish, mukofotlash davrlari, uzoq muddatli xotiraga kirish va qisqa muddatli xotira buferida saqlash kabi ko'plab yordamchi jarayonlar uchun mavjud bo'ladi. Ushbu ma'lumotni global miqyosda tarqatish harakati uni ongli qiladi.Nutellaning mislsiz tajribasi miyaning motorli rejalashtirish mintaqasi bilan aloqa qiladigan piramidal neyronlardan iborat - bu findiq tarqalishining bir qismini olib tashlash uchun qoshiqni olish uchun ko'rsatma beradi. Shu bilan birga, boshqa modullar xabarni Nutella tarkibidagi yog 'va shakar miqdori yuqori bo'lganligi sababli dopamin shoshilinchligi shaklida mukofot kutish uchun yuboradi.

Ongli holatlar ish maydoni algoritmi tegishli sensorli kirishlarni, motorli chiqishlarni va xotira, motivatsiya va kutish bilan bog'liq ichki o'zgaruvchilarni qayta ishlash usulidan kelib chiqadi. Global qayta ishlash - bu ong haqida. GNW nazariyasi zamonaviy cheksiz hisoblash kuchlarining zamonaviy mifosini to'liq qamrab oladi. Ong - bu shunchaki aqlli hack.

Ichki sabab kuchi

Muqobil yo'l - integratsiya qilingan axborot nazariyasi (IIT) ongni tushuntirish uchun yanada fundamental yondashuvni qo'llaydi.

Viskonsin-Medison universitetining psixiatr va nevrolog olim Djulio Tononi IITning bosh me'mori bo'lib, boshqalar ham, men ham o'z hissamni qo'shganman. Nazariya tajribadan boshlanadi va u erdan ushbu tajribaning "tuyg'usini" aniqlaydigan sinaptik davrlarning faollashuviga boradi. Integratsiyalashgan ma'lumotlar - bu qandaydir mexanizmning qancha "ichki sabab kuchi" ga ega ekanligini aniqlaydigan matematik o'lchov. Quyidagi hujayralarga (sinapslar orqali) ta'sir qiladigan neyronlarning harakatlanish potentsiali transistorlar, sig'imlar, qarshilik va simlardan yasalgan elektron sxemalar singari mexanizmlarning bir turidir.

Ichki nedensel kuch - bu qandaydir havodor-peri efir tushunchasi emas, balki har qanday tizim uchun aniq baholanishi mumkin. Uning hozirgi holati uning sababini (kiritilishini) va ta'sirini (chiqishini) qanchalik ko'p aniqlasa, u shunchalik sabab kuchiga ega bo'ladi.

IIT, ichki kuchga ega bo'lgan, uning holati o'tmishi bilan yuklangan va kelajagi bilan homilador bo'lgan har qanday mexanizm ongli bo'lishini belgilaydi. Yunoncha letter harfi bilan ifodalangan tizimning yaxlit ma'lumotlari ("fi" deb nomlangan nol yoki musbat raqam) qanchalik katta bo'lsa, tizim shunchalik ongli bo'ladi. Agar biror narsaning ichki sabab kuchi bo'lmasa, uning Φ nolga teng; u hech narsani sezmaydi.

Kortikal neyronlarning heterojenligi va ularning zich va ustma-ust tushadigan kirish va chiqish ulanishlari to'plamini hisobga olgan holda, korteks ichidagi birlashgan ma'lumot miqdori juda katta. Nazariya hozirgi vaqtda klinik baho ostida bo'lgan ongni o'lchash vositasini yaratishga ilhom berdi, bu doimiy vegetativ holatdagi odamlar yoki minimal darajada ongli, behushlik yoki yopiq odamlarning ongli, ammo muloqot qila olmaydiganligini yoki "uyda hech kim yo'qligini aniqlaydi. . ” Dasturlashtiriladigan raqamli kompyuterlarning nedensel kuchini ularning metall komponentlari - har qanday hisoblashning fizik asosi bo'lib xizmat qiluvchi tranzistorlar, simlar va diodalar darajasida tahlil qilishda nazariya ularning ichki sababiy kuchi va ularning Φ daqiqali ekanligini ko'rsatadi. Bundan tashqari, Φ protsessorda ishlaydigan dasturlardan mustaqil,u soliqlarni hisoblaydimi yoki miyani simulyatsiya qiladimi.

Darhaqiqat, nazariya bir xil kirish-chiqish operatsiyasini bajaradigan, lekin har xil tuzilgan sxemalarga ega bo'lgan ikkita tarmoq har xil Φ qiymatiga ega bo'lishi mumkinligini isbotlaydi. Bir sxemada Φ bo'lmasligi mumkin, boshqasida esa yuqori darajalar bo'lishi mumkin. Ular tashqi tomondan bir xil bo'lishiga qaramay, bitta tarmoq nimanidir boshdan kechirmoqda, zombi soxtasi hamkasbi esa hech narsani sezmaydi. Farqi qopqoq ostida, tarmoqning ichki simlarida. Qisqacha aytganda, ong haqida bo'lish emas, balki, amaldagi .

Ushbu nazariyalarning farqi shundaki, GNW ongni tushuntirishda inson miyasining funktsiyasini ta'kidlaydi, IIT esa bu miyaning ichki sababiy kuchlari muhim ahamiyatga ega deb ta'kidlaydi.

Miyaning konnektomini, butun asab tizimining aniq sinaptik simlarini to'liq tavsifini tekshirganda, farqlar o'zlarini namoyon qiladi. Anatomistlar allaqachon bir nechta qurtlarning konnekomlarini xaritalashgan. Ular mevali chivin uchun konnekom ustida ishlamoqdalar va keyingi o'n yil ichida sichqoncha bilan kurashishni rejalashtirmoqdalar. Kelajakda butun inson miyasini, taxminan 100 milliard neyronlari va kvadrillion sinapslari bilan, uning egasi vafot etganidan keyin ultrastrukturaviy darajada skanerlash mumkin bo'ladi, deb o'ylaymiz va keyin ba'zi bir rivojlangan kompyuterlarda, ehtimol kvantda organni simulyatsiya qilamiz. mashina. Agar model etarlicha sodiq bo'lsa, ushbu simulyatsiya uyg'onadi va o'zini marhumning raqamli simulyatori kabi tutadi - gapirish va uning xotiralari, ishtiyoqlari, qo'rquvlari va boshqa xususiyatlariga kirish.

Agar GNW nazariyasida ta'kidlanganidek, ongni yaratish uchun miyaning funktsional imkoniyatlarini taqlid qilish zarur bo'lsa, simulyatsiya qilingan odam ongli bo'lib, kompyuter ichida qayta tiklanadi. Darhaqiqat, raqamli narigi dunyoda yashashi uchun bulutni bulutga yuklash - bu keng tarqalgan ilmiy fantastika.

IIT ushbu holatni tubdan boshqacha talqin qiladi: simulacrum, chiroyli yapon hojatxonasida ishlaydigan dastur kabi o'zini his qiladi - hech narsa yo'q. Bu odam kabi harakat qiladi, ammo hech qanday tug'ma tuyg'ularsiz, zombi (lekin inson go'shtini iste'mol qilishni xohlamasdan) - bu yakuniy chuqurlik.

Ongni yaratish uchun miyaning ichki sabab kuchlari zarur. Va bu kuchlarni taqlid qilish mumkin emas, lekin ular asosiy mexanizm fizikasining tarkibiy qismi bo'lishi kerak.

Simulyatsiya nima uchun etarli emasligini tushunish uchun o'zingizga savol bering, nima uchun yomg'ir bo'roni ob-havosi simulyatsiyasi ichida u hech qachon nam bo'lmaydi yoki astrofiziklar qora tuynukning katta tortish kuchini simulyatsiya qilishlari mumkin, chunki ular bo'shliqqa egilib yutilishidan qo'rqmaydilar. ularning kompyuterlari. Javob: chunki simulyatsiya atmosfera bug'ining suvga quyilishiga yoki bo'sh vaqt egriligiga olib keladigan sabab kuchiga ega emas! Biroq, printsipial ravishda, asab tizimining tasvirida qurilgan me'morchilikka asoslangan holda, neyromorfik apparat deb ataladigan simulyatsiya doirasidan tashqariga chiqib, inson darajasidagi ongga erishish mumkin edi.

Simulyatsiya haqidagi munozaralardan tashqari boshqa farqlar mavjud. IIT va GNW korteksning alohida mintaqalari epitsentrini korteksning orqa yoki old qismida joylashgan aniq ongli tajribalarning jismoniy substratini tashkil qiladi. Ushbu bashorat va boshqalar hozirda Templeton Jahon xayriya fondidan 5 million dollar mablag 'olgan AQSh, Evropa va Xitoyning oltita laboratoriyasini o'z ichiga olgan keng ko'lamli hamkorlikda sinovdan o'tkazilmoqda.

Axloqiy sabablarga ko'ra mashinalar sezgir bo'lib qolishi mumkinmi. Agar kompyuterlar hayotni o'zlarining sezgi organlari orqali boshdan kechiradigan bo'lsalar, ular biz odamlar uchun foydaliligi bilan belgilanadigan maqsadga erishish vositasi bo'lmaydilar. Ular o'zlarini oxiriga etkazishadi.

GNW bo'yicha ular oddiy narsalardan sub'ektlarga aylanadilar - ularning har biri "men" sifatida mavjud - nuqtai nazar bilan. Ushbu dilemma eng jozibali Black Mirror va Westworld televizion epizodlarida paydo bo'ladi. Kompyuterlarning bilish qobiliyatlari insoniyat bilan raqobatlashgandan so'ng, ularning qonuniy va siyosiy huquqlarini talab qilish uchun turtki berib bo'lmaydigan bo'lib qoladi - bu o'chirilmaslik, xotiralarini tozalamaslik, azob va tanazzulga duchor bo'lmaslik huquqi. IIT tomonidan gavdalantirilgan alternativa shundaki, kompyuterlar biz uchun eng qadrli narsadan - hayot tuyg'usidan mahrum bo'lgan shunchaki o'ta zamonaviy texnika, arvohga o'xshagan bo'sh qobiq bo'lib qoladi.

Ushbu maqola dastlab "Prustlar orasida" nomli Scientific American 321, 6, 46-49 (2019 yil dekabr) da nashr etilgan

Onlayn kazino
O'yin -kulgi avtomatlari
Onlaynkazino

Bizning yangiliklarimizga obuna bo'lish orqali birinchi eksklyuziv taklifni oling va eng yaxshi onlayn kazinolarda har kungi ajoyib chegirmalarimizdan foydalaning!