«Искиннің» адамзатты басқарудағы перспективалары

2024 Автор: Seth Attwood | [email protected]. Соңғы өзгертілген: 2023-12-16 16:10

Адамдарды басқару үшін жасанды интеллектке сенсеңіз не болады? Біздің заңнамада заңдардың 99 пайызы бір-біріне қайшы келеді. Логикалық тұрғыдан алғанда, билік құлдырауы және басқару жүйесінің тоқтауы болуы керек …

Енді ол жер туралы ойланайық жасанды интеллект(бұдан әрі - искин) ол ойлап табылған және қолданылған кезде (егер) біздің өмірімізге енеді. Мен оның ішкі табиғаты туралы дауласпауды ұсынамын. Бұл үлкен деректермен жұмыс істей алатын және нақты адамдардың мінез-құлық үлгілерін ұқсас түрде көшіре алатын өте жетілдірілген алгоритм болсын. Бірақ, егер қаласаңыз, талқыланып жатқан нәрсе өзіңіз түсінетіндей нағыз ер адам болсын.

Мұндағы басты сұрақ мынау. Осы Тор балғасын алған соң қайда қолданамыз? Ал, негізінен, оны жасауға болатынына күмән жоқ. Біз сандық тегістеуіштерді, өздігінен үйрену алгоритмдерін де жасай аламыз, жинақталған үлкен күн - бәрі бар.

Айтыңызшы, техникалық жүйелерді басқаруда, мысалы, жеке көлік бірліктері? – Ал, камон… Неге аттың көтере алатынын сеніп тапсыру үшін ақылды әрі күрделі жүйе жасау керек? Процессорда бір шелекке 10 долларға қарапайым алгоритм жеткілікті болады, көлікті басқару мәселесі тек деректер алуда және этикалық мәселелерде. Сонда ше? Он бес секунд ойланыңыз.

Менің ойымша, бір ғана Искин үшін нағыз нәрсе - адамдарды басқару … Дәлірек айтқанда, адамдар бөлігі болып табылатын процестер. Бірқатар себептерге байланысты азға айырбастаудың мағынасы жоқ. Кез келген адам арнайы дайындықсыз адамдарды басқаруға дайын. Мысалы, біз барлығына өз балаларымызды басқаруға толық сенеміз. Сондай-ақ, командалардың барлығында дерлік басқару тәжірибесі болды. Ең болмағанда «зембілге тағы бір күрек тастаңыз, біз оны көтереміз». Егер бәрі адам негізінен адамдарды басқаруға қабілетті болса, онда AI мұны істей алуы керек, әйтпесе бұл ақыл-ойы бұзылған интеллект.

Дегенмен, адамдарды басқарудың нәтижелері идеалдан алыс. Кез келген нақты бақылау қателер мен дәлсіздіктер қатары болып табылады. Оның үстіне қателер саны дерлік менеджер деңгейіне байланысты емес, бұл белгілі бір тұрақты шама. Тек жүк тиеушілер бригадирі болмашы қателіктер жібереді, ал әкімге ауыр зардаптарға әкеп соқтыратын қателіктер жіберуге құқық беріледі. Біз мұны түсінеміз. «Біз қателесуіміз керек еді» - бұл қоршаған әлемді, соның ішінде өзімізді де бейнелеудің негізгі нәтижесі.

Ал енді біздің қолымызда «осылай істеу» керек АИ. Біз оны бірден қолданамыз, өйткені ол теориялық тұрғыдан шеше алатын мәселе - ең маңыздысы. Ал үш кластық білімі бар Жамшут жүк көлігін де жүргізе алады.

Егер сіз бұл туралы менімен келісесіз, онда басқаруға арналған жасанды терінің функционалдығын ұсынуды жалғастырайық. Ол кімнің функцияларын орындауы керек, кімді ауыстыруы немесе ең болмағанда өз шешімдерімен күшейтуі керек?

Бұл шенеуніктер (мемлекеттік басқаруда да, бизнесте де) болатыны анық. Шенеуніктер шешім қабылдайды. Лауазымды тұлғалар құзыреттің барлық деңгейінде қабылданады. Шенеуніктер бүгінгі күні маңызды және қажет, өйткені шешімдер өздігінен қабылданбайды. Бірақ бір нүкте бар.

Әрбір басшыға (яғни әрбір лауазымды тұлғаға) оның практикалық қызметінің сөзбе-сөз мазмұны тұрғысынан қарайық. Бірақ оның мотивацияларының мағынасында емес - мотивация архетипі, олай болмауы керек. Лауазымды тұлға транзакцияларды мақұлдайды немесе басқа лауазымды тұлға бекіткен мәмілелерді жояды.

Идеалды машинада барлық транзакциялар сөзсіз мақұлдануы керек және ешбір транзакциядан бас тартуға болмайды, өйткені олар бұрын заңды түрде бекітілген. Бұл жүйедегі маңызды фактор – транзакциялар «қара жәшіктен» лауазымды тұлғаның қарауына беріледі. Оған мұндай мәмілені не үшін жасау керек, неліктен оны басқа шенеунік мақұлдағаны туралы түсініктеме бермейді. Басқару жүйесі келесідей құрастырылған. Жоғарыда бірқатар операцияларды жүзеге асыру туралы нұсқау түріндегі бұйрық келеді.

Мұндай жүйенің идеологиялық құрылымы жоғарыдан, «қара жәшіктен» алынған транзакцияны жою (мақұлдамау) мүмкіндігін мүлдем білдірмейтінін ескеріңіз. Бірақ іс жүзінде мұндай мүмкіндік әрқашан бар. Ол екі маңызды нәрсені қамтамасыз етеді: кез келген шенеуніктің билігі және мұндай билікті ұстау.

Кез келген қатені (жоғарыда олардың сөзсіз және тұрақты екенін айттық) астарлы бюрократиялық бұқараның қарсылығында ерітуге болатынын түсіндірейін, сонда қатенің салдарын барынша азайтуға болады.

Дегенмен, теориялық идеалды басқару жүйесінде қателер болмауы керек, осы себепті шенеуніктің рөлі мәмілелерді формальды бекітуге дейін төмендейді, ол оны мақұлдамай қоймайды, өйткені олар дұрыс. Яғни, оның қажеті жоқ. Сондықтан сұрақ бастапқы басқару сигналына дейін қайнатылады. Егер ол дұрыс болса, онда барлық төменгі деңгейлерде мағынасы жоқ.

Демек, теория жүзінде мемлекеттің жиынтық бюджеті жұмыс істеуі керек. Оны қабылдаған кезде оның барлық фракталдық мәні ашылғанын білдіреді. Әрбір капилляр қанның тағайындалған бөлігін алуы керек, ал жауап ретінде - болжанған нәтиже. Иә, ең төменгі жағында «бірақ біз бетонды уақытында жеткізбедік, сондықтан …» бар, бірақ кешіріңіз, бұл ең төменгі жағында және басқару аппараты бетонға тимейтін көптеген деңгейлерден тұрады. олар транзакциялармен жұмыс істейді. Түсінемін, орта деңгейлерде «бетон жеткізілмеді» деген басқаша көрінеді, «ғарыш айлағы құрылысының вице-президенті 100 миллионды ұрлады, сондықтан…» Мен бұл жерде идеалды схеманы айтып отырмын.

Біздің идеалды теріге оралайық. Өйткені, бұл тапсырмада ол бірдей мәселелерді шешуі керек - мәмілелерді бекіту немесе тыйым салу. Және ол мұны істей алады! Енді ғана ол бірден басқарудың барлық деңгейін ауыстыра алады. Өйткені, егер министрді алмастыра отырып, ол министрлік деңгейдегі ірі мәмілені бекітетін болса, оның шешімі дұрыс деп танылуы керек. Және ол Кинешмадағы психиатриялық аурухананың кіреберісін жөндеу үшін И. П. Пупкиннің төлеміне дейін ірі транзакцияны одан әрі таратуды талдауды қамтиды.

Осылайша, біріншіден кейінгі төменгі деңгейдегі транзакцияларды бекітуге міндетті шенеуніктер тізбегін бірдей AI алгоритмімен қауіпсіз ауыстыруға болады. Мәселе түбегейлі шешілді. Біздің AI-ны бүкіл тізбекті ауыстыру үшін пайдаланудың қажеті жоқ, AI жай ғана оның қажеттілігін жояды. Оның шешімі дұрыс, өйткені ол дұрыс. Және ол бірден бүкіл фракталдық шешімдерді қамтиды.

Ескерту. Біздің шынайы әлемде кез келген бағынышты шенеунік жоғарыдан ақылды болуы мүмкін. Содан кейін ол бастықтың шешімдеріне саботаж жасайды, содан кейін оған көмектеседі. Бұл әрқашан солай. Бастапқы деңгейден басқа барлық қолданыстағы шенеуніктер бұрынғы басшыларының орындарын алады. Бірақ бұл жағдайда бәсекелестік мүмкін емес. Бір искин бүкіл тізбек бойынша бәрін өзі шешеді, ол өзіне қарсы келе алмайды.

Оның үстіне. Біздің басқару жүйемізде соттар бар, олар туралы біздің пікірімізге қарамастан, біз кез келген мәмілелерді бұзуға және өз мәмілелерін жүзеге асыруға өкілеттік бердік. (Кісі өлтірушіні түрмеге отырғызу да ережеге негізделген мәміле болып табылады. Мұндағы судья - қара жәшіктен жазылғандай өзіне келген мәмілені бекітетін немесе күшін жойатын шенеунік.) Егер біздің ақымақ жақсы болса, онда ол шенеуніктерден жақсырақ, өйткені біз оған олар үшін (біз үшін) мәмілелерді бекітуді немесе жоюды сеніп тапсырдық. Демек, ол төрешілерден де артық. Әйтпесе, искіннің шешімдерін халық даулап, күшін жоя алады екен. Егер адамдар мұны қабылдаса, онда олар АИ адамдардан нашар екенін мойындайды. Сонда шенеуніктерді ненің негізінде ауыстырады?

Қорытынды. Искінді де соттамайды. Тағы бір рет. Егер сіз адамдар, ең жақсы алгоритміңізді жазсаңыз, оны жақсы деп танысаңыз, оған өзіңізге билік берген болсаңыз, онда сіз біріншінің шешімдерін бағалайтындай жақсырақ алгоритм жаза алмайсыз. Сіз өзіңіздің ең жақсы алгоритміңізді менеджер ретінде де, судья ретінде де қоясыз. Дәлірек айтқанда, төрешілер жай жоғалады. Сізге бұл AI-ға толық билік беруге тура келеді.

Айтпақшы, бастапқы бақылау деректері ISK-ге келетін түпнұсқа қара жәшікті де цифрлауға болады. Тіпті цифрландыру қажет. Шоғырландырылған бюджет ең қолайлы болуы керек. Және ол да жасайды.

Тағы бір сәт. Немесе оның адамгершілікке жатпайтындығынан орын алуы мүмкін қателіктер, мысалы, орын алмас үшін, оның шешімдерін бақылайтын адамның үстінен біреуді қою керек пе? – Сонда барлық шенеуніктердің лауазымы мен билігі сақталады. Сондай-ақ оларға ISK мақұлдаған транзакцияларды тоқтату немесе жойылғандарды мақұлдау құқығы беріледі. Өкінішке орай, бұл шынайы емес сияқты. Искин өз шешімінің себебін басып шығарады. Ал адам өзінің сезімімен немесе мүдделерімен формальды логиканы жоққа шығара алмайды. Бұл жағдайда да тірі шенеунік әрбір (шын мәнінде бір ғана) әрекеттің көрінісіне байланса, олар оған қарсы тұра алмайды.

Шатасып кеткенім үшін кешіріңіз, ойлар көп, мәтіннің ұзақтығы орны толмас өсіп жатыр.

ISK қосылғанда, толық құлдырау орын алады. Жоқ, мен түсінемін, олар алдымен оны сынақ режимінде жүргізеді. Бірақ бұл профанация болады, өйткені ол кезде оңайлатылған үлгі емес, тұтастай оның барлық байланыстары бар бүкіл қоғамға еліктеу керек болады, бірақ цифрлық тырнақшылар мұны істей алмайды.

Содан кейін ол шектеулі режимде, шартты Пермь аумағында іске қосылады. Қателер, жөндеу, жаңа шығарылым және өндіріс?

Бірақ ерте ме, кеш пе, қызыл лента кесіліп, адамдар көлікті толық қуатта (қосқыштағы қолмен) басқара алады.

Ал сіз не болатынын білесіз бе? Искин барлық транзакцияларды толығымен тоқтатады. «Егер-онда» логикасы бір-біріне ондаған мың рет қайшы келетін қолданыстағы заңнамадағы миллиондаған реттеуші нормалармен соқтығысады. Финита. Пойыздарымыз тоқтайды, супермаркетте бір банка сауырдың төлемі жұмыс істемейді. Әр адам бірден билікке жіберілетін көптеген қылмыстар мен қылмыстар үшін айыпталады, бірақ биліктегі барлық адамдар дереу жұмыстан босатылып, сотқа тартылады. Сот шешімдері талап арызды дереу береді. Үлкен күн, бәрі сен туралы жазылған. Жарайды, бұл кішкентай нәрселер. Бірақ олар да сенің айлығыңды аудара алмайды, өйткені кеңсе салыққа қарыз, вагон саған айыппұл салады.

Артықтау? Жоқ. Алғашқы ұшыру (қосқыштағы қолмен) басқарылады, екі сынақтан өткізіледі, жиырма екі сыналады … Және бір күні ол сынақтардың толық циклінен өткендей толық қосылады. Сосын… Ал шенеуніктерді жұмыстан шығарамыз, еріктілер жағдайды сақтайды.

Мұндай қайғылы салдарды болдырмау мүмкін бе? - Әрине, тырысуға болады. Ол үшін бірқатар жұмыстар атқарылуы керек. Заңның 99%-ын жойыңыз, қалған 1%-ын баланы сумен төкпей қайта өңдеңіз. (Мұндай істер әдетте азаматтық соғыспен толыққанды төңкерістен кейін жасалады. Бейбіт уақытта мұны қалай істеуге болады - мен білмеймін.) Сонымен қатар, адамгершілікті қайта өңдеу керек. Кеңседен бір бума қағазды ұрлау (немесе әйелін алдау) тұрғысынан бұл өте қолайлы (заңда көрсетілген) немесе бұл толығымен уақытты талап етеді. Бұл адамгершілікті қоғам санасында қайта жаңғырту керек. Әйтпесе, ол оптикалық кабельдерді кесуге кіріседі, бұл арзан, қарапайым және AI-ға қарсы тиімді. Тағы бір нұсқа - бұл искинді ықтимал серіктеске лақтыру, ол өз қолын кесуге мүмкіндік береді. Және, әрине, жоғары сыныптар ыңғайсыз болып қалмауы керек. Егер олар мүмкін болмаса, олар оны соңғы мүмкіндік ретінде пайдаланады.

Мен сізді компьютерлерді бұзуға сендіруге тырыспаймын. Искіннен ешқайда кетпейміз. Ол бізді басып озады, біз онымен араласуымыз керек. Тағдырымызбен немен (кіммен) шайқасқа түсуіміз керек екенін түсінуге тырысайық.