Роботтық прогрестің қаупі рас па, әлде миф пе?

2024 Автор: Seth Attwood | [email protected]. Соңғы өзгертілген: 2023-12-16 16:10

Роботтар адамдарды алмастырмайды деп айтқанда, оларда адамдық ештеңе жоқ, біз адамның қисынсыз жасау немесе әрекет етудегі ерекше қабілетін мүлде білдірмейміз. Бір күні роботтар мұны істей алады. Бірақ олардан қорқу бекершілік. Неліктен - деп түсіндіреді Андрей Себрант, Яндекстің стратегиялық маркетинг жөніндегі директоры.

Қалай Вудман қалай Терминатор болды

Ұлы жазушы Артур Кларк үш заңды тұжырымдады, олардың бірінде: «Кез келген жеткілікті дамыған технологияны сиқырдан ажыратуға болмайды». Бұл тұжырым біздің жоғары технологияларға деген көзқарасымызды дәл сипаттайды. Бірақ теледидар мен Facebook дамыған медиа ғасырында сиқыршы болу қиындай түсуде.

Жасанды интеллекттің мысалы - Элли (немесе Дороти) дос болған және тәтті әңгімелер болған Тин Вудман. Қай кезде және неге ол кенеттен Терминаторға айналды? Бұл тек медиа оқиғасы: қорқыныш жақсы сатылады - сондықтан роботтарға қатысты мәселені дәріс тақырыбына қосу керек.

Бұл шынымен де қоғамдық санада не болып жатқанын көрсетеді. Жақында HSE сауалнама жүргізді, ол роботтың субъективтілігі неғұрлым жоғары болса, адамдар соғұрлым ол субъект ретінде оларға жамандық жасайды деп қорқады. Робот үй шаруасымен ғана айналысса немесе дүкеннен тауар әкелсе, одан ешкім қорықпайды. Бірақ медбикелерге, дәрігерлерге, тәрбиешілерге және өзін-өзі басқаратын көліктерге келетін болсақ, адамдардың көпшілігі қоршаған ортадан өте ыңғайсыз болатынын айтады. Сонымен қатар, бір миллион шақырым жолдағы апаттар статистикасы дрондардың жол апатына ұшырау ықтималдығы аз екенін көрсетеді. Әрине, бәрібір адамдар жол апатына ұшырайды, бірақ олар аз өледі – бір жарым миллионның орнына 300 мың адам. Ал миллион өмір сүреді, өйткені жүргізуші мас адам емес, жетілмеген автопилот болды.

Неліктен роботтардан түсініктеме талап етпеу керек?

Физика бойынша Нобель сыйлығының лауреаты Ричард Фейнман кванттық физиканы ешбір физик түсінбейтінін айтты. Өкінішке орай, немесе бақытымызға орай, бүгінде адам түсіндіре алмайтын көптеген басқа салалар бар.

Роботтардан түсіндіруді талап ету бекер (неліктен мұндай шешім қабылданды, көлік неге баяулады, т.б.). Оның үстіне тарихымызға үңілсеңіз, бұл мүлдем қисынсыз.

Мысалы, 1853 жылы синтезделген және 19 ғасырдың аяғында Аспирин сауда белгісімен тіркелген ацетилсалицил қышқылы бүгінде орасан зор мөлшерде – жылына шамамен 120 миллиард таблетка тұтынылады. Дегенмен, оның әрекеті, мысалы, жүрек ауруында қолданумен байланысты, ол медицинада кеңінен қолданыла бастағаннан кейін 70 жылдан кейін ғана түсіндірілді.

Заманауи фармакологтар күрделі ауруларға арналған заманауи дәрі-дәрмектердің қалай жұмыс істейтінін ешкім білмейтінін айтады. Өзін-өзі басқаратын көлікке отырудан қорқатын адамдар 90% жағдайда үнемдейтін, бірақ оның әсер ету механизмдері туралы ештеңе білмейтін дәрімен емдеуден бас тартатыны қалай?

Сонымен, күнделікті өмірде де біз айналамызда болып жатқан барлық нәрсені түсінбейміз. Машиналық оқытуды кеңінен енгізу алдында роботтардан өз әрекеттерін түсіндіруді талап ету өте аңғалдық. Біз бұған қазіргі алгоритмдерден қол жеткізуге ұмтылатын болсақ, кванттық компьютерлер келеді және түсінуге ешқандай үміт болмайды. Сондықтан түсіне алмайтын нәрсені қабылдауды үйренген дұрыс. Бұл роботтар бізге не істейді деген сұраққа жауап емес. Жаныңызда роботтар болса, тапқаныңызды қалай психоаналитиктерге жұмсамайсыз деген сұраққа осылай жауап береді.

Жасанды интеллектпен қалай жасауға болады

Роботтармен бірге өмір сүру туралы келесі әңгіме кез келген шығармашылық адам түсіне алатын идеяға арналған - бірге жасау керемет болатын адамды табу қаншалықты қиын. Мұны орыстың атақты суретшісі және өнер теоретигі Дмитрий Булатов қатал түрде былай тұжырымдайды: «Жаңа норма мынау: егер біз әлемді өнермен жұқтырғымыз келсе, біз белоктық шовинизмді тоқтатуымыз керек».

Біз (Яндекс. - T&P нотасы) нейрондық желілер жазған музыкамен 2017 жылы көңіл көтере бастадық, - біз жасаған музыка ерекше композитор және Скрябин шығармашылығының сарапшысы Мария Чернова ретінде танылды. Иван Ямщиков атап өткендей, нейрондық желі бір нотаны төрт минут ойнағанды ұнатса ше? Менің ойымша, бұл күлкіден басқа ештеңе тудырмайды («сценарий тұрып қалды»). Егер мұны адам ойлап тапты деп болжасақ, онда бірден көптеген аудармашылар жүгіріп келеді, олар бұл терең ой екенін түсіндіре бастайды, біз өмір сүріп жатқан құбыжық тоқырау идеясын білдіреді және т. Бұл шығарманың өзін емес, бізге берілген контекстті түсіндіру мәселесі.

Бүгінгі күні, тіпті «Тарих қолдайтын вариациялық қайталанатын автокодермен музыкалық генерация» математикалық мақаласының кіріспесінде оның авторлары интуитивті немесе шығармашылық көзқарасты қамтитын тапсырмалар ұзақ уақыт бойы таза адам болып саналғанын, бірақ қазір көбірек алгоритмдер қол жетімді және музыка болып табылатынын жазады. бір ғана мысал, осындай тапсырмалар.

Екі жылдан кейін біз ірі музыкант Юрий Башметке музыка жаздық (Яндекс жасаған нейрондық желі композитор Кузьма Бодровпен бірлесіп альт пен оркестрге арналған шығарма жасады. – T&P нотасы). Адамдарға бұл оқиға туралы айтқанда, олар былай деп жауап береді: «О, біз оны түсіндік! Олардың айтуынша, нейрондық желілер күнделікті тапсырмаларды жақсы орындайды, сондықтан композитор сол әуенді, шығарманың тамаша идеясын жасайды, ал нейрондық желі оркестрлік жұмыстың қалған бөлігін орындауды үйренген болуы мүмкін ». Керісінше. Композитор Кузьма Бодров нейрондық желі оның толыққанды тең авторы болды және ол ең қиын нәрсені, кейінірек басқа нәрсеге айналған түпнұсқаны тудырды деп мәлімдейді. Мен әрқашан жаңа және күтпеген нәрсені жасай алатын, шаршамай, депрессияға түспейтін осындай бірлескен автордың болғанын қалаймын.

Нейрондық желілер және физикалық

Стругацкийдің «Дүйсенбі сенбіде басталады» кітабында қос деп аталатын нысандар сипатталған: диктант, бірақ оны қалай жақсы орындау керектігін кім біледі. […] Нағыз шеберлер өте күрделі, көп бағдарламалы, өздігінен үйренетін суреттерді жасай алады ». Романның бір кейіпкері басқа кейіпкердің орнына көлікпен осындай түсіруді жіберген. Дубль «Москвичті» керемет басқарды, «оны маса шаққанда ант беріп, хормен рахаттана ән айтты». Біздің «Алиса» әлі мұнымен айналыспайды, бірақ тағы бір хакатон басталады. Смарт адаптивті жүйелер 1965 жылы сипатталған. Қазір олар қазірдің өзінде бар - көшірмелер ретінде, олар қағаз бөліктерін сұрыптауда, жаңа әуендер шығаруда, медиа-жоспарлауда және т.б. жақсырақ. Бұл тек бастамасы ғана.

Кевин Келлидің «Еріксіз» кітабында әдемі сөз тіркесі бар: «Ең маңызды ойлау машиналары адамдардан тезірек және жақсы ойлай алатындар емес, адамдар ешқашан жасай алмайтын жолмен ойлауды үйренетіндер болады». Біз өмір бойы ұшу идеясын жүзеге асырып, қанаты бар құсты жасап, жетілдіреміз, тек қана оларды үлкейтіп, заманауи материалдарды қолданып келеміз. Бізді қанаттары пайдасыз ғарыш арқылы алып шығатын зымыран идеясы жай пайда болмас еді, өйткені ол бәрі басталған жерден мүлде басқа. Бұл әлі алда – әзірше бізде тамаша авторлар бар.

Біз жасанды интеллект туралы айтқан кезде және машина бізді алмастырады деп қорқатын болсақ, біз әрқашан адам мен интеллект дерлік синонимдер, бір-бірін алмастыратын мәндер деп санаймыз. Бұл олай емес. Мен тағы да Стругацкихтің сөзін келтірейін: «Мен әлі адаммын, мен үшін бүкіл жануар бөтен емес». Тіпті нейрондық желілердің көмегімен экрандарда әдемі билеуді үйренсек те, бұл бізді биден нағыз толқуды алатын адамдар жасамайды. Физикалық қабілет интеллект сияқты маңызды. Ал әзірше біз алгоритмдік нәрсені қалай жасау керектігін мүлде түсінбейміз, ол біз сияқты бүкіл жануарға жат емес еді.