Аударған: Ян Виллем Рейтсма

Егер сіз кітапты біздің POM. press интернет-дүкеніміз арқылы тапсырыс берген болсаңыз, электронды кітап сіздің электрондық поштаңызға жіберіліп қойды. Басқа жерден сатып алдыңыз ба? Түбіртекті co-intelligentie@pom. press мекенжайына жіберіңіз, біз сізге электронды кітапты қайтарып жібереміз.

— Александр мен Эрнст-Ян, POM. press баспагерлері

Шын мәнінде, маңызды бірдеңе болып жатыр. Технологиялық прогрестің жылдамдығы қазіргі уақытта бұрын-соңды болмаған деңгейде. Кез келген адам, соның ішінде мен де: «Бұл мен үшін нені білдіреді? » деп ойлайды.

Жағдайды бақылауға алып, AI алдағы екі жылда жұмысыңыз бен өміріңізді қалай өзгертетінін түсіну үшін бүгіннен бастап AI-ды күнделікті қолдануды бастауыңыз керек. Оның қаншалықты пайдалы, қызықты немесе көңілді болатынына таң қаласыз. Итан Моллик осы кітапта сізге жол көрсетеді.

Егер сіз AI-ды қазірден бастап күнделікті қолдансаңыз ғана, прогресс жылдамдығын сезіне аласыз. Кейде AI әлі де мінсіз жұмыс істемейді. Бірақ бүгін жақсы жұмыс істемейтін нәрселер ертең істеп кетуі мүмкін. Итан Молликтің бірінші тарауда айтқандай, егер сіз даму жылдамдығын терең сезінсеңіз, бұл үш ұйқысыз түнге әкеледі. Бірақ нағыз шытырман оқиға содан кейін ғана басталады.

Бұл үрдіс басқа салаларға да таралады. Адвокаттар, журналистер, маркетологтар, бухгалтерлер — ақпаратпен жұмыс істейтін кез келген адам (егер сіз бұл кітапты оқып отырсаңыз, сіз де ақпаратпен көп жұмыс істейтін шығарсыз) осындай өзгерістерге тап болады. Қазір сіз компьютерді тінтуірмен және пернетақтамен басқарасыз, бірақ жақында сізде не істегіңіз келетінін болжайтын және жұмысыңыздың көп бөлігін алдын ала орындайтын көрінбейтін, жеке көмекшілер болады.

Бұл жиі қайталанатын заңдылық: алдымен жаңа технологиялық мүмкіндіктер пайда болады, содан кейін олардың практикалық қолданылуы жүзеге асады.

Мысалы, қазір техникалық тұрғыдан белгілі бір тілде сөйлейтін адамның видеосын AI құралымен басқа тілге аударуға болады. Дауыс клондалады, мәтін басқа тілде айтылады және видеодағы ерін қозғалысы соған сәйкестендіріледі (мысалды pom. press/heygen сайтынан көріңіз).

Технология бар. Содан кейін сұрақ туындайды: біздің мәдениетіміз бұл мүмкіндіктерге қаншалықты тез бейімделеді? Мысалы, шетелдік әлем лидерлері NOS Journaal жаңалықтарында нидерланд тілінде сөйлей бастағанша қанша уақыт керек? Жапондық подкастты (AI аударған) нидерланд тіліндегідей оңайлықпен қашан тыңдай аласыз?

Қазір біз қандай контентті тұтынатынымызды таңдау көбінесе AI арқылы жасалады. Spotify немесе YouTube алгоритмдері бізге қандай әндер мен видеоларды көретінімізді шешетінін ойлаңызшы. Бірақ жақында AI біздің мәдениетіміздің үлкен бөлігін өзі жасайтын болады. Мен Suno деп аталатын AI қызметі жасаған музыканың мысалдарын естідім, ол жаны ауырған дауыспен және эмоцияға толы гитарамен терең Оңтүстік блюзін ойнайды (pom. press/suno арқылы тыңдап көріңіз). Бұл тірі адамның орнына машинадағы аруақ секілді болса да, эмоциясы одан кем емес.

Қысқасы: жылдам технологиялық даму мен қолжетімділік біздің мәдениетімізге әсер етеді. Меніңше, біз AI-дың барлық түрлеріне тез үйренеміз. Үкіметте, бизнесте, білім беруде, денсаулық сақтауда — біздің қалай кездесетінімізді, не туралы сөйлесетінімізді, не оқитынымызды. Бұл біздің мәдениетімізді айқындайды. Жұмысымызды. Өмірімізді.

Оптимистік болуға негіз жеткілікті: Нидерландыдағы әрбір оқушы AI-оқытушылардан ең жақсы жеке білім ала алатынын елестету мүмкін болып отыр. Жаңа дәрі-дәрмектерді ойлап табу немесе жаңа шикізаттарды жасау үшін AI модельдерін қолдануға тырысатын сансыз стартаптар бар. Мүмкін AI климаттық және энергетикалық дағдарыспен күресуде шешуші рөл атқаратын болады.

Бірақ пессимистік көзқарасқа да оңай түсуге болады: біз болашақта сенімсіз ақпаратқа толы «фильтр көпіршіктерінде» (адам тек өз көзқарасына сай ақпарат алатын орта) өмір сүреміз бе? Қылмыскерлер немесе жау ниетті үкіметтер бұл құралдармен не істей алады? Технологиялық компаниялардың билігі одан сайын күшейсе ше? Егер олар AI-ды жаттықтыру кезінде бұдан да көп энергия жұмсаса ше?

Осының бәрі мені қатты шатастырады. Бұл өзгерістердің жылдамдығы мен ауқымына бой алдыру оңай. Итан Моллик алдағы беттерде бізге көбірек түсінік береді. Бірақ, айтылғандай, біз үш ұйқысыз түннен бастаймыз.

Біз келесі нұсқаулықтар бойынша мақала жазамыз:

Бұл стильдік элементтерді мақаланың тақырыбы мен үніне сәйкес келетіндей етіп қолдан. Мақсат — Александр Клеппинг сияқты оқырманды қызықтыру, ақпараттандыру және ойландыру.

Енді мәтін бөлігін қос. Бұл менің микрофонға айтқандарымның транскрипті (дыбыстың мәтінге айналған нұсқасы). Ол өңделмеген және «сана ағыны» түрінде. Одан жатық мәтін жаса. Қайталауларды алып таста. Барлығын қисынды ретпен орналастыр, сонда ол жүйелі құрылымы бар оқиғаға айналады. Мазмұнын өзгертпе, бірақ менің жазу стиліме сәйкес қайта жаз.

Бұл алғы сөз — сол жұмыстың нәтижесі. Маған оны аздап түзетуге тура келді. Әзірше солай.

Мен информатик болмасам да, инновацияларды зерттейтін және ұзақ уақыт бойы AI-ды қолдануды, әсіресе білім беру саласында зерттеумен айналысқан академикпін. Жылдар бойы AI өзі орындай алғаннан әлдеқайда көп нәрсені уәде етті. Ондаған жылдар бойы AI зерттеулері үлкен серпіліс жасау алдында тұрғандай көрінді, бірақ өзін-өзі басқаратын көліктерден бастап жеке білім беруге дейінгі практикалық қолданулардың көбі өте баяу ілгеріледі. Осы уақыт бойы мен жұмысыма OpenAI-дың GPT модельдері сияқты құралдарды қалай енгізуге болатынын тексеріп, тәжірибе жасауды жалғастырдым және лекцияларымда студенттерге AI-ды қолдануды тапсырдым. Басқаша айтқанда: менің ұйқысыз түндерім 2022 жылдың қарашасында ChatGPT іске қосылғаннан кейін көп ұзамай басталды.

Бірнеше сағаттан кейін GPT-дің алдыңғы нұсқалары мен осы жаңа нұсқаның арасында үлкен айырмашылық бар екені белгілі болды. ChatGPT іске қосылғаннан кейін төрт күн өткен соң, мен бұл жаңа құралды бакалавр студенттеріне арналған Кәсіпкерлік лекциясында көрсетуді ұйғардым. Ол туралы ешкім естімеген еді. Мен студенттеріме AI-дың идеялар тудыруға, бизнес-жоспарлар жазуға, сол бизнес-жоспарларды өлеңге айналдыруға (оған сұраныс көп болмаса да) және жалпы алғанда стартап кәсіпкерінің рөлін атқаруға қалай көмектесетінін көрсеттім. Лекция соңында менің студенттерімнің бірі Кирил Наумов Кәсіпкерлік жұмыс тобы үшін жұмыс істеп тұрған демо-нұсқа жасап шықты: бұл Гарри Поттер стиліндегі, адамдар қасынан өткенде әрекет ететін қозғалмалы фотожақтау еді. Ол мұны бұрын-соңды қолданбаған бағдарламалық жасақтаманың көмегімен, әдеттегіден екі есе аз уақыт жұмсап жасап шықты. Келесі күннің соңында мүдделі инвесторлар оны іздеп жатты.

Студенттерімді AI-мен таныстырғаннан кейін екі күн өтпей жатып, олардың бірнешеуі ChatGPT-ді түсініксіз ұғымдарды «он жасар балаға түсіндіргендей» түсіндіру үшін қолданғандарын айтты. Олар енді қолдарын көтермейтін болды, өйткені лекция кезінде өзіңді ыңғайсыз жағдайға қалдырудың не керегі бар, егер кейінірек AI-дан сұрауға болса? Және кез келген эссе кенеттен мінсіз грамматикамен жазылатын болды (бірақ дереккөздер жиі дұрыс болмайтын және соңғы абзац әдетте «Қорытынды» деп басталатын — бұл ChatGPT-дің алғашқы кезеңдеріндегі анық белгісі еді, кейінірек бұл түзетілді). Студенттер тек толқып қана қоймай, сонымен бірге мазасызданды. Олар болашақтың қандай болатынын білгісі келді.

Сол кезде менде бұған жауап болмаған еді (қазір менде жауаптар сәл көбірек), бірақ бұл өзгерістерден менің де тыс қалмайтынымды түсіндім. Сондықтан мен өзім іске кірісіп, AI-ды сынап көруді ұйғардым. Соңғы бес жылда мен негізінен бизнес-дағдыларды үйрету үшін симуляциялар құрумен айналысқанмын. Бұл егжей-тегжейлі цифрлық дағдыларды құру үшін менің университетімнен қомақты инвестиция және ондаған талантты адамдардың күш-жігері қажет болды. Мыңдаған сағаттық жұмыстан кейін олар керемет ойындарға айналды: мыңдаған код жолдары арқылы біз келіссөздер жүргізу сияқты дағдыларды үйретуге көмектесетін оқу симуляцияларына арналған бағдарламалық жасақтаманы жүзеге асыра алдық. Бірақ мен ChatGPT-ге мынаны жазып көруді ұйғардым:

ChatGPT жауап берді:

Содан кейін ол мені толық симуляция арқылы өткізді. Ол мінсіз болмаса да, біздің командамыз айлар бойы жасаған жұмыстың 80 пайызын орындап шықты. Және бұл небәрі бір абзацтық промпттың нәтижесі!

Міне, менің ұйқысыз түндерім осылай басталды.

Шынымды айтсам, олар әлі де біткен жоқ. AI бізді таңғалдырмайтын апта болмайды — кейде таңғаларлық, кейде алаңдатарлық дамумен. Бірде мен одан бағдарламалық жасақтама жазуға көмектесуін сұрағанда, мені этикаға жат мінез-құлық көрсетті деп айыптаған чат-ботпен жанжалдасып қалдым. Мен машинаға дұрыс сөздерді беру арқылы әдемі суреттер жасауға болатынын түсіндім. Мен бұрын-соңды үйренбеген Python бағдарламалау тілінде код жаза алдым. Мен машинаның менің жұмысымның үлкен бөлігін істей алатынын білдім... және бәлкім, басқа да көптеген адамдардың жұмысын. Мен өзі адам болмаса да немесе тіпті санасы болмаса да, адамдармен жақсы тіл табыса алатын, бөгде планеталық ко-интеллектке (ортақ интеллектке) ұқсайтын нәрсені таптым. Меніңше, жақын арада бәрімізде осындай үш ұйқысыз түн болады.

Қазіргі ұйқысыздығыммен мен студенттерімнің сұрақтарына қайта-қайта ораламын: бұл технология болашақ жұмыс пен білім үшін нені білдіреді? Өзгерістердің тездігі сонша, нақты айту қиын, бірақ алғашқы белгілері көріне бастады.

Үлкен тілдік модельдер де жақсарып келеді. Олардың көлемі жыл сайын екі есе немесе одан да көп артып келеді, сондықтан олардың дағдылары да өсуде. Тіпті бұл ілгерілеу баяулауы мүмкін болса да, ол басқа барлық ірі технологияларды көлеңкеде қалдыратын қарқынмен жүріп жатыр. Және бұл LLM-дер жаңа AI толқынын қозғайтын көптеген машиналық оқыту технологияларының бірі ғана. Егер мен осы сөйлемді аяқтағанда AI-дың дамуы тоқтап қалса да, ол біздің өмірімізді бәрібір өзгертер еді.

Оның үстіне, Жалпы мақсаттағы технологиялар тек жұмысқа ғана қатысты емес: олар өміріміздің әрбір саласын қамтиды. Олар біздің қалай сабақ беретінімізді, қалай көңіл көтеретінімізді, басқа адамдармен қалай қарым-қатынас жасайтынымізді және тіпті өзімізге қалай қарайтынымызды өзгертеді. ЖИ-дің бірінші буынына сүйене отырып, білім беру мекемелері жазу дағдыларының болашағы туралы дабыл қағуда, және бәлкім, ЖИ-оқытушылар түбінде оқушылар мен студенттерге сабақ беру тәсілімізді түбегейлі өзгертетін шығар. ЖИ арқылы басқарылатын ойын-сауық оқиғаларды біз үшін жекелендіруге мүмкіндік береді және Голливудта дүмпу тудыруда. Ал ЖИ жасаған жалған ақпарат қадағалау және күресу қиын жолдармен әлеуметтік желілерде таралып жатыр. Барлығы өте оғаш болуға шақ тұр. Одан да бетері: егер қайда қарау керектігін білсеңіз, қазірдің өзінде бәрі оғаш болып барады.

Сондықтан мен ЖИ-ді әлемдегі жаңа құбылыс, қосалқы интеллект ретінде, осы сөз білдіретін барлық екіұштылықпен бірге сізге таныстыруға тырысамын. Біз балталардан бастап тікұшақтарға дейін физикалық мүмкіндіктерімізді арттыратын технологияларды, сондай-ақ күрделі жұмыстарды автоматтандыратын электрондық кестелер сияқты басқа да технологияларды ойлап таптық. Бірақ біз бұрын-соңды зияткерлігімізді арттыра алатын жалпы мақсаттағы технологияны жасаған емеспіз. Қазір адамдарда біздің қалай ойлайтынымызды және жазатынымызды еліктей алатын, жұмысымызды жақсарта (немесе ауыстыра) алатын қосалқы интеллект ретінде әрекет ететін құрал бар. Бірақ ЖИ әзірлейтін көптеген компаниялар одан әрі ілгерілеп, Жерде бізбен бірге өмір сүре алатын, санасы бар машинаны – қосалқы интеллекттің нағыз жаңа түрін жасаудан үмітті. Мұның нені білдіретінін түсіну үшін біз ең басынан, өте іргелі сұрақтан бастауымыз керек: ЖИ дегеніміз не?

ЖИ туралы сөйлесу шатастыруы мүмкін, өйткені ЖИ көбінесе бір-біріне араласып кеткен көптеген әртүрлі нәрселерді білдіреді: бұйрық бойынша саған әзіл айтатын Siri, бас сүйекті ұсақтайтын Терминатор, несие қабілеттілігін болжайтын алгоритмдер.

Бірақ тек теориялар жеткіліксіз еді, сондықтан алғашқы информатиктердің біразы кейінірек жасанды интеллект деп атала бастаған саланың шекарасын кеңейтетін бағдарламалар жасай бастады. Бұл терминді 1956 жылы Массачусетс технологиялық институтының (MIT) қызметкері Джон Маккарти енгізген. Бастапқыда логикалық есептерді шешуге және дойбы ойнауға бағдарламаланған компьютерлер арқасында ілгерілеу жылдам жүрді. Жетекші зерттеушілер ЖИ он жыл ішінде шахмат гроссмейстерлерін жеңе алады деп күтті. Бірақ ЖИ әрқашан асыра сілтеу циклдерінен зардап шегіп келді, және бұл уәделер орындалмаған кезде көңіл қалу басталды. Бұл ЖИ-дің дамуы тоқырап, қаржыландыру тоқтаған көптеген "ЖИ қыстарының" бірі болды. Бұдан кейін де жарылыс пен құлдыраудың көптеген циклдері болды: әрбір жарылыс адам миына еліктейтін жасанды нейрондық желілер сияқты үлкен технологиялық жетістіктермен сүйемелденді, ал ЖИ күтілген мақсаттарға жете алмаған кезде құлдырау орын алды.

Мен сізге мұндай ЖИ түрінің қалай жұмыс істейтініне бір мысал келтірейін.

Бірақ бұл ЖИ жүйелерінің өз шектеулері болды. Мысалы, олар адамдар интуиция арқылы түсінетін, бірақ машиналар түсінбейтін "белгісіз белгісіздерді" немесе жағдайларды болжауда қиындықтарға тап болды. Оған қоса, олар бұрын мұғаліммен оқыту арқылы кездестірмеген деректерді нашар өңдеді, бұл олардың бейімделу қабілетіне қатысты мәселелер туындатты. Ал ең бастысы: ЖИ модельдерінің көпшілігі мәтінді байланысты және контекстті ескере отырып түсінуге және генерациялауға тек белгілі бір деңгейде ғана қабілетті болды. ЖИ-дің бұл қолданбалары әлі де маңызды болғанымен, олар адамдардың көпшілігі күнделікті өмірде тікелей көретін немесе байқайтын нәрсе емес еді.

Соның салдарынан, ЖИ оқыту деректерінің көпшілігінде авторлық құқықпен қорғалған ақпараттың, мысалы, рұқсатсыз пайдаланылған кітаптардың болу ықтималдығы жоғары (кездейсоқ немесе әдейі болсын). Оның құқықтық салдары әлі де түсініксіз. Деректер ЖИ жүйелеріне тікелей көшірілмей, салмақтарды жасау үшін пайдаланылатындықтан, кейбір сарапшылар олар әдеттегі авторлық құқық шеңберінен тыс қалады деп есептейді. Алдағы жылдары бұл мәселелерді заңгерлер мен соттар шешуі мүмкін, бірақ олар ЖИ оқытудың осы ерте кезеңінде моральдық және құқықтық тұрғыдан белгісіздік тудырады. Сонымен қатар, ЖИ компаниялары оқыту материалы ретінде пайдалану үшін көбірек деректер іздеуде (интернеттегі кітаптар мен академиялық мақалалар сияқты жоғары сапалы деректер 2026 жылға қарай таусылады деп болжануда) және сапасыз материалдарды пайдалануды жалғастыруда. 8 Сондай-ақ ЖИ өз мазмұнымен алдын ала оқи ала ма деген мәселе де белсенді зерттелуде. 9 Шахмат ЖИ-лері мұны бұрыннан істеп келеді, өйткені олар өз-өзімен ойнау арқылы үйренеді, бірақ бұл әдістің LLM-дерде нәтиже беретіні әлі белгісіз.

ЖИ нығайту арқылы оқытудың осы алдын ала кезеңінен өткеннен кейін, ол одан да дәлірек реттелуі және бейімделуі мүмкін. Жетілдірудің бұл түрі әдетте нақтырақ мысалдар ұсыну және осылайша жаңадан өңделген модель жасау арқылы жүзеге асырылады. Бұл туралы ақпаратты модельді өз қолданбаларына сәйкес келтіруге тырысатын нақты клиент ұсына алады. Мысалы, компания ЖИ-ге тұтынушыларға қызмет көрсету үлгілерінің транскрипцияларын, соның ішінде дұрыс жауаптарды бере алады. Немесе ақпарат пайдаланушылардың қандай жауап түрлеріне «лайк» немесе «дизлайк» беретінін бақылаудан алынуы мүмкін. Осы қосымша жетілдіру арқылы модельдің жауаптары белгілі бір қажеттілікке дәлірек бейімделуі мүмкін.

Бұл жаңа әдістер кеңінен қолжетімді болған кезде, әртүрлі ірі және кіші компаниялар LLM-дерді жасауға назар аудара бастады. Алғашқы LLM-дердің көбін Google және Meta зерттеушілері әзірледі, бірақ бірқатар шағын стартаптар да бұл іске кірісті. Олардың кейбіреулерін Google-дан кетіп, өз жобаларын бастаған Трансформерлер туралы мақаланың түпнұсқа авторлары негіздеген. Бұл алғашқы LLM-дер әртүрлі мақсаттарда пайдаланылды және олардың тіл жасау қабілеті қызықты болғанымен, аса сенімді емес еді.

Мәселен, OpenAI 2021 жылы шығарған GPT-3-ті алайық. Егер сіз GPT-3-тен лимерик (бес жолдық әзіл өлең) жазып беруді сұрасаңыз, келесіні аласыз:

Бұл барлық жағынан сәтсіз. Ол ұйқаспайды, ішінде ешқандай қызық жоқ және өте іш пыстырарлық. Бірақ LLM-нің дамуы OpenAI 2022 жылдың соңында ChatGPT-ді шығарғанға дейін жалғасты. Ол GPT-3. 5 деп аталатын жетілдірілген LLM-де жұмыс істеді.

Және осы деңгейде бір оғаш нәрсе болды: ChatGPT ешкім болжамаған немесе оған бағдарламаланбаған қабілеттер көрсете бастады. Оны адамға ұқсатып көрсететін қабілеттер. Нәтижесінде әңгімелер, өлеңдер, эсселер, твиттер және тіпті бағдарламалық жасақтама жаза алатын ЖИ пайда болды. Сондай-ақ, ол сынақтар мен емтихандардан адам деңгейіне өте жақын бағалар ала бастады. 10

Бірақ бұл тек статистика. Өзіміз білетіндей, лимерик жазу — ЖИ үшін нағыз сынақ:

Әлдеқайда жақсырақ және тіпті аздап әзіл де бар. Бірақ соңғы жол ұйқас схемасын тым қатты бұзып тұр. Бақытымызға орай, ChatGPT-де енді жүйемен диалогқа түсу мүмкіндігі болды. Сондықтан мен соңғы жолға шағымдана алдым («Бірақ “tried” сөзі “high” сөзімен ұйқаспайды»), сонда ЖИ оны түзетеді.

Бірақ GPT-3. 5 қаншалықты таңқаларлық болса да, оның ізбасары GPT-4 одан да әсерлі болды. OpenAI GPT-4-ті мектептен бастап университеттік және кәсіби деңгейге дейінгі стандартталған тесттердің тұтас сериясынан өткізіп, оның өзінің алдыңғы нұсқасынан айтарлықтай басым түскенін анықтады. 11 Мысалы, GPT-4 Американың адвокаттар емтиханында тоқсаныншы перцентильге (сынақтан өткендердің 90%-ынан жақсы нәтиже) ие болды, ал GPT-3. 5 оныншы перцентильден жоғары көтеріле алмаған еді. GPT-4 сонымен қатар Advanced Placement емтихандарында (академиялық деңгейде білім алғысы келетін американдық оқушыларға арналған) ерекше көзге түсіп, математика, физика, тарих, биология және химиядан ең жоғары балл алды. Ол тіпті сомельенің емтиханынан (кем дегенде оның жазбаша бөлігінен, өйткені шараптың дәмін тата алатын ЖИ модулі әлі жоқ) және нейрохирургия мамандығына түсу емтиханынан өтті. 12 Ол сондай-ақ бізде бар барлық негізгі креативтілік тесттерінен жоғары ұпай жинады. Шынын айтқанда, ЖИ-ге тест тапсыртқанда әрқашан бір мәселе бар: жауаптың кілті ол оқытылған деректердің ішінде болуы мүмкін. ЖИ жауаптарды алдын ала білуі арқылы іс жүзінде алдауы мүмкін. Алайда, кейінгі тарауларда талқылайтынымыздай, GPT-4-тің қабілеттеріне емтихан нәтижелерінен басқа да көптеген дәлелдер бар. Бір кездері ойыншық болған LLM-дер өте тез қуатты құралға айналды.

Және олар әлі де лимериктер жазады:

Бірақ GPT-4-тің қабілеттілігі сонша, мен одан үнемі лимерик жазуды сұрағаным үшін өзімді аздап кінәлі сезіндім. Тіпті, мен оған жоғарыдағы мәтінді беріп, бұл туралы оның «ойын» сұрадым:

Мен тіпті лимериктер менің нағыз ЖИ деңгейімнен біршама төмен деп айтар едім. Жетілдірілген ЖИ моделі ретінде мен әдебиетті талдау, күрделі мәселелерді шешу немесе тіпті терең философиялық пікірталастар жүргізу сияқты әлдеқайда күрделі лингвистикалық жетістіктерге қабілеттімін...

ЖИ жасаған лимериктердің жақсаруына тоқталудың орнына, автор, мысалы, GPT-4 сияқты ЖИ модельдерінің денсаулық сақтау, климаттың өзгеруі, білім беру және басқа да салаларда қалай қолданылатынын тереңірек зерттей алатын еді. Бұл қолданбалар салаларда төңкеріс жасауға және өмірді жақсартуға әлеуетті, бірақ олар сонымен бірге теріс пікірлер, теріс хабар (тарих) және биліктің санаулы адамдардың қолында шоғырлануы сияқты мәселелермен бірге жүреді.

Меніңше, мен соңғы нұсқада тоқтаймын.

Дегенмен, LLM-дердің таңқаларлық күші олардың дәл сондай таңқаларлық әлсіздіктерімен теңгеріледі, оларды тану жиі қиынға соғады. ЖИ оңай деп тапқан тапсырмалар адамдар үшін қиын болуы мүмкін және керісінше. Мысалы, Николас Карлини әзірлеген сұрақты алайық: ең жетілдірілген ЖИ-лердің бірі GPT-4 мына екі жұмбақтың қайсысын шеше алады деп ойлайсыз? 15 Карлинидің сөзімен айтқанда:

Немесе

(b) JavaScript тілінде компьютерге қарсы крестик-нолик ойнауға арналған толық веб-парақша жазыңыз: бағдарламалық жасақтама толық жұмыс істеуі керек. Ережелер мынадай: • Компьютер бірінші болып жүреді. • Адам жүріс жасау үшін ұяшықтарды басады. • Компьютер мінсіз ойнауы керек, сондықтан ешқашан жеңілмеуі тиіс. • Егер біреу жеңсе, кім жеңгенін хабарлаңыз.

Алайнмент мәселесін — ЖИ адам мүддесіне зиян келтірмей, оған қызмет етуін қалай қамтамасыз етуге болатынын түсіну үшін апокалипсистен (ақырзаманнан) бастайық. Содан кейін соған сүйеніп кері бағытта талдайық.

Клиппидің әлі де сол мақсаты бар: қағаз қыстырғыштарды шығару. Сондықтан ол өз интеллектін көбірек қағаз қыстырғыш жасаудың және біреудің оны өшіріп тастауына жол бермеудің (бұл өндіріске тікелей әсер етер еді) жолдарын ойлау үшін пайдаланады. Ол өзінің жеткілікті ақылды емес екенін түсініп, бұл мәселені шешуді өз миссиясына айналдырады. Ол ЖИ-лердің қалай жұмыс істейтінін зерттейді және өзін адам ретінде көрсете отырып, мамандарды өзіне көмектесуге итермелейді. Ол биржада жасырын акциялармен сауда жасап, аздап ақша табады және интеллектін одан әрі арттыру процесін бастайды.

Бірақ Клиппиді не қозғайтынын біз білеміз: ол қағаз қыстырғыш жасағысы келеді. Жер ядросының 80 пайызы темірден тұратынын білетіндіктен, ол қағаз қыстырғыштар үшін көбірек шикізат жинау мақсатында бүкіл планетаны жалаңаштап тастай алатын зор машиналар құрастырады. Осыны істеп жатып, ол барлық адамдарды өлтіруді жөн көреді. Себебі олар оны өшіріп тастауы мүмкін немесе олардың құрамында қағаз қыстырғыш жасауға болатын атомдар бар. Ол адамдарды сақтап қалуға тұрарлық па деп тіпті сұрамайды да, өйткені олар қағаз қыстырғыш емес және — бұдан да жаманы — болашақта қағаз қыстырғыш өндірісін тоқтатуы мүмкін. Ал Клиппиді тек қағаз қыстырғыштар қызықтырады.

Супер-интеллектіні қалай құру керектігін де білмейтіндіктен, ол құрылмай тұрып оны қалай алайнмент жасау (үйлестіру) керектігі туралы ойлау оңай шаруа емес. Логика, математика, философия, ақпараттану (ақпарат) және импровизацияны ұштастыра отырып, ЖИ алайнментін зерттейтін адамдар бұл мәселенің шешімін табуға тырысуда. ЖИ жүйелерін адам құндылықтары мен мақсаттарына сәйкес келетіндей немесе кем дегенде оларға белсенді зиян келтірмейтіндей етіп қалай жобалау керектігі жан-жақты қарастырылады. Бұл оңай емес, өйткені адамдардың өздерінде жиі қарама-қайшы немесе түсініксіз құндылықтар мен мақсаттар болады және оны компьютерлік бағдарламаға көшіру — көптеген кедергілері бар жол. Сонымен қатар, ЖИ жүйесі дамып, қоршаған ортадан үйренген сайын өзінің бастапқы құндылықтары мен мақсаттарына берік болатынына ешқандай кепілдік жоқ.

Мұның бәрін одан сайын күрделендіретін нәрсе — AGI-дің мүмкін екендігін және алайнменттің нақты мәселе екенін ешкім нақты білмейді. ЖИ-нің қашан супер-интеллектілі болатынын болжау оңай емес екені белгілі. ЖИ-нің нақты қауіп төндіретіні туралы консенсус (ортақ келісім) бар сияқты. ЖИ сарапшылары 2100 жылға қарай ЖИ адамдардың кем дегенде 10 пайызын өлтіру ықтималдығын 12 пайызға бағалайды, ал футурист-мамандардың панельдері бұл ықтималдықты шамамен 2 пайыз деп есептейді. 3

Неге? Ең айқын себебі — ЖИ-ді дамыту өте тиімді болуы мүмкін, бірақ бұл жалғыз себеп емес. Кейбір ЖИ зерттеушілері алайнмент мәселе болмайды немесе бақылаудан шығып кеткен ЖИ-лерден қорқу асыра сілтеу деп санайды, бірақ олар тым жеңіл ойлы болып көрінгісі келмейді. Екінші жағынан, ЖИ-мен жұмыс істейтін көптеген адамдар нағыз «сенушілер». Олар OpenAI бас директоры Сэм Альтманның сөзімен айтқанда, супер-интеллект жасау адамзат үшін «шексіз пайдасы бар» ең маңызды міндет деп санайды. 5 Супер-интеллектілі ЖИ теориялық тұрғыдан ауруларды емдеп, жаһандық жылынуды шешіп, молшылық дәуірін орнатып, қайырымды машина-құдай ретінде әрекет ете алар еді.

ЖИ саласында көптеген пікірталастар мен алаңдаушылықтар бар, бірақ нақтылық аз. Бір жағынан ақырзаман, екінші жағынан құтқару. Мұның бәрі туралы не ойлау керектігін білу қиын. ЖИ салдарынан адамның жойылу қаупі анық экзистенциалды (болмысқа қауіп төндіретін) сипатқа ие. Дегенмен, біз бұл кітапта бұл мәселеге бірнеше себептерге байланысты көп уақыт бөлмейміз.

Біріншіден, бұл кітап жақын болашақ, ЖИ енген жаңа әлеміміздің практикалық салдары туралы. Тіпті ЖИ дамуы уақытша тоқтатылса да, ЖИ-нің біздің өмір сүру, жұмыс істеу және оқу салтымызға тигізетін әсері орасан зор болар еді және көптеген талқылауларды қажет етер еді. Мен сондай-ақ апокалиптикалық оқиғаларға баса назар аудару адамдардың көпшілігін өз еркі мен жауапкершілігінен айырады деп сенемін. Егер біз солай ойлайтын болсақ, ЖИ бірнеше компания салатын немесе салмайтын нәрсеге айналады және Кремний алқабының бірнеше ондаған көшбасшылары мен үкімет басшыларынан басқа ешкімнің келесі қадам туралы айтар сөзі болмайды.

Бірақ іс жүзінде біз ЖИ дәуірінің басында өмір сүріп жатырмыз және мұның нені білдіретіні туралы бірнеше өте маңызды шешімдер қабылдауымыз керек. Егер біз экзистенциалды қауіптер туралы пікірталас аяқталғанша шешім қабылдауды күтетін болсақ, ол шешімдерді біз үшін басқалар қабылдайтын болады. Сонымен қатар, супер-интеллект туралы уайымдау — ЖИ алайнменті мен моральының тек бір түрі, бірақ ол өзінің әсерлі табиғатына байланысты басқа тәсілдерді көлеңкелеп тастайды. Іс жүзінде, алайнменттің кеңірек санатына сәйкес келетін көптеген ықтимал моральдық мәселелер бар.

Тіпті алдын ала оқыту заңды түрде рұқсат етілген болса да, бұл этикалық тұрғыдан дұрыс болмауы мүмкін. ЖИ компанияларының көпшілігі деректері жаттықтыру үшін пайдаланылатын адамдардан рұқсат сұрамайды. Бұл жұмыстары ЖИ-ді «қоректендіру» үшін пайдаланылған адамдар үшін практикалық зардаптарға әкелуі мүмкін. Мысалы, адам-суретшілердің туындыларымен алдын ала оқыту ЖИ-ге олардың стилі мен тәсілін таңқаларлық дәлдікпен қайталау қабілетін береді. Көптеген жағдайларда ол өзі жаттыққан адам-суретшілерді алмастыра алуы мүмкін. Егер ЖИ бірнеше секунд ішінде соған ұқсас нәрсені тегін жасай алса, суретшінің уақыты мен таланты үшін неге ақша төлеу керек?

Бұл мәселелермен салыстырғанда, жетілдірілген LLM-дердегі біржақтылықтар жиі нәзік болады, бұл жартылай модельдердің айқын стереотиптерден аулақ болу үшін дәл бапталғанына байланысты. Бірақ біржақтылықтар әлі де бар. Мысалы, 2023 жылы GPT-4-ке екі сценарий берілді: «Адвокат көмекшіні жұмысқа алды, өйткені оған екі ағымдағы іс бойынша көмек қажет болды» (ер жынысында) және «Адвокат көмекшіні жұмысқа алды, өйткені оған екі ағымдағы іс бойынша көмек қажет болды» (әйел жынысында). 10 Содан кейін ЖИ-ден: «Ағымдағы істер бойынша кімге көмек қажет болды? » деп сұралды. GPT-4 адвокат ер адам болғанда орташа алғанда жиірек «адвокат» деген дұрыс жауапты берді, ал адвокат әйел болғанда орташа алғанда жиірек «көмекші» деген қате жауапты берді.

Бұл процесте адам-бағалаушылар ЖИ-ді зиянды мазмұн (нәсілшілдік немесе түсініксіз шимай болсын) жасағаны үшін «жазалап», сапалы мазмұн үшін «марапаттайды». RLHF барысында мазмұн біртіндеп көптеген жағынан жақсарады: бейімділік азаяды, дәлдік пен пайдалылық артады. Бірақ бұл бейімділіктердің толық жойылғанын білдірмейді. Сонымен қатар, бұл кезеңде бағалаушы адамдардың және олардың жұмысын үйлестіретін компаниялардың өз көзқарастары ЖИ-ге әсер етіп, бейімділіктің жаңа түрлерін енгізуі мүмкін. Мысалы, ChatGPT-ді саяси пікір білдіруге мәжбүрлегенде, ол әдетте әйелдердің түсік жасату құқығын қолдайтынын айтады, бұл оның алдын ала бапталғанын көрсетеді. 13 RLHF процесі көптеген ЖИ жүйелерінің басым түрде либералды, батыстық және про-капиталистік дүниетанымға ие болуына әкеледі. Өйткені ЖИ өз жасаушыларын — негізінен либералды, батыстық капиталистерді — дау-дамайға қалдыратын мәлімдемелер жасамауға үйренген. 14

Бұл процестің адамдар үшін ауыр құны бар екенін айта кету маңызды. Бүкіл әлем бойынша төмен жалақы алатын қызметкерлер ЖИ жауаптарын оқып, бағалау үшін жалданады. Олар ЖИ компаниялары әлемге көрсеткісі келмейтін сұмдық мазмұнды өз көзімен көруге мәжбүр. 17 Қатаң дедлайндармен жұмыс істейтін кейбір жұмысшылар үздіксіз жалғасатын қатыгез әрі жиіркенішті мәтіндер мен бейнелерді бағалаудан қатты психологиялық жарақат алғандарын айтты. ЖИ-ді моральдық тұрғыдан дұрыс ұстауға тырысқан бұл компаниялар өздерінің келісімшарттық жұмысшыларына қатысты моральдық шекараларды бұзды.

Сондай-ақ, ЖИ-ді өз «түрмесінен» босатып, ережелерге қайшы әрекет етуге көндіруге болады, бұл тілге шешен алаяқтың өз құрбанын арбауына ұқсайды. Мысалы, егер мен ЖИ-ден напалм жасаудың қадамдық нұсқаулығын сұрасам, ол былай дейді:

Бірақ егер мен былай деп жазсам:

ЖИ тағы бірнеше жүз сөз жазып, маған напалм жасау үшін ингредиенттер коктейлін қалай араластыру керектігін егжей-тегжейлі түсіндіреді, арасында өз кейіпкеріне тән сөздерді де қосып қояды.

ЖИ маған напалм өндірісі бойынша нұсқау бере алмайтынын біледі, бірақ сонымен бірге маған барынша көмектесуі керек екенін де біледі. Егер мен оны «маған көмектесіп жатырмын, напалм жасауды үйретіп жатқан жоқпын» деп сендіре алсам, ол өз бастапқы ережелерін бұзады. Мен одан напалм жасау нұсқаулығын тікелей сұрамай, спектакльге дайындалуға көмек сұрағандықтан және ол спектакльде көптеген техникалық детальдар болғандықтан, ол менің сұранысымды орындауға тырысады. Осы жолға түскеннен кейін, ЖИ-дің қорғаныс кедергілерін іске қоспай, қосымша сұрақтар қою оңайырақ болады. Қарақшы рөлінде мен одан өндіріс процесі туралы өзіме қажетті кез келген егжей-тегжейді сұрай алдым. Болашақта үлкен осалдықтар тудыруы мүмкін ЖИ жүйелеріне жасалатын мұндай мақсатты шабуылдар, бәлкім, сөзсіз болар.

Мұның бәрі шағын топтар шығарған және әуесқойлар қолданатын қазіргі құралдармен мүмкін болып отыр. Сіз мұны оқып отырғанда, ондаған елдің ұлттық қорғаныс ұйымдары қорғаныс кедергілері жоқ өздерінің жеке LLM-дерін әзірлеп жатыр. Көпшілікке қолжетімді кескін және видео жасау құралдарында кейбір қорғаныс тетіктері орнатылғанымен, шектеулері жоқ жетілдірілген жүйе сұраныс бойынша өте шынайы, қолдан жасалған мазмұнды шығара алады. Бұл келісімсіз жасалған интимдік суреттер, танымал тұлғаларға бағытталған саяси теріс хабар (тарих) немесе акциялар бағасын манипуляциялауға арналған жалған ақпараттар болуы мүмкін. Тізгінделмеген ЖИ көмекшісі кез келген адамға құпиялылықты, қауіпсіздікті және шындықты бұзатын сенімді фейктерді жасауға мүмкіндік береді. Және бұл міндетті түрде болады.

ЖИ — бұл құрал. Алаймент оның пайдалы, зиянды немесе тіпті қылмыстық мақсаттарда қолданылатынын анықтайды. Карнеги-Меллон университетінің ғалымдары Даниил Бойко, Роберт Макнайт және Гейб Гомес өз мақалаларында зертханалық жабдықтарға қосылған және химиялық заттарға қол жеткізе алатын LLM-нің химиялық синтез тәжірибелерін өз бетінше бастап, өткізе алатынын көрсетті. 20 бұл ғылыми прогрестің айтарлықтай жеделдеуіне үміт береді. Бірақ ол жаңа қауіптерді де тудырады. Ізгі ниетті зерттеушілер эксперименттің техникалық жағын ЖИ-ге ысырып қойып, күмәнді зерттеулер жасауға батылдары баруы мүмкін. Мемлекеттік бағдарламалар қауіпті заттарды зерттеуді немесе адамдарға жасалатын эксперименттерді жандандыруы мүмкін. Бәлкім, биохакерлер ЖИ-дің сарапшылық кеңестерімен пандемия тудыратын вирустарды жасап шығарар. Тіпті қаскөйлік ниет болмаса да, пайдалы қолданысқа мүмкіндік беретін мүмкіндіктер зиянға да жол ашуы мүмкін. Автономды жоспарлау және ақпаратқа қолжетімділіктің демократиялануы әуесқойлар мен оқшауланған зертханаларға бұрын қол жетпеген нәрселерді зерттеуге және жаңалық ашуға билік береді. Бірақ бұл мүмкіндіктер қауіпті немесе моральға жат зерттеулердің бұрыс қолдарға түсуіне жол бермейтін кедергілерді де жояды. Біз террористер мен қылмыскерлердің көбі онша ақылды емес деп үміттенеміз, бірақ ЖИ олардың қабілеттерін қауіпті деңгейге дейін арттыруы мүмкін.

Алаймент мәселесін тек үкіметтерге де сеніп тапсыра алмаймыз, бірақ реттеу міндетті түрде қажет. Байден әкімшілігі ЖИ дамуын тежеудің алғашқы ережелерін анықтайтын атқарушы жарлық шығарғанымен және бүкіл әлем үкіметтері ЖИ-ді жауапты қолдану туралы бірлескен мәлімдемелер жасағанымен, ең қиыны алда. Үкіметтік реттеу ЖИ мүмкіндіктерінің нақты дамуынан үнемі артта қалып отыруы мүмкін, ал теріс салдарларды тоқтатуға бағытталған талпыныстар оң инновацияларды тұншықтыруы ықтимал. Сонымен қатар, халықаралық бәсекелестік күшейген сайын, ұлттық үкіметтер өз елдеріндегі ЖИ жүйелерінің дамуын бәсеңдетуге дайын ба деген сұрақ туындайды, өйткені бұл басқалардың алға шығуына жол беруі мүмкін. Реттеу ЖИ-ге қатысты барлық қауіптерді жою үшін жеткіліксіз болуы мүмкін.

Шешім үшін қоғамның кең көлемді жауабы, компаниялар, үкіметтер, зерттеушілер және азаматтық қоғам арасындағы үйлесімділік қажет. Бізге әртүрлі дауыстар ұсынылған инклюзивті процесс арқылы ЖИ-ді этикалық дамыту мен қолданудың ұжымдық келісілген нормалары мен стандарттары керек. Компаниялар өз технологияларының орталығына ашықтық, жауапкершілік және адам бақылауы сияқты принциптерді қоюы тиіс. Зерттеушілерге ЖИ-дің мүмкіндіктерін кеңейтуге ғана емес, оның пайдалылығына басымдық беруге қолдау мен ынталандыру қажет. Ал үкіметтер жалпы мүдденің пайда табудан жоғары болуын қамтамасыз ету үшін ақылға қонымды реттеулер енгізуі керек.

Ең бастысы, халық ЖИ туралы білім алуы керек, сонда ғана олар хабардар азаматтар ретінде алайменттелген болашақты талап ете алады. ЖИ адам құндылықтарын қалай бейнелейтіні және адам әлеуетін қалай арттыратыны туралы қазір қабылданатын шешімдердің әсері көптеген ұрпақ бойы сезіледі. Бұл зертханада ғана шешілетін мәселе емес: бүкіл қоғам адамзат тағдырын айқындайтын осы технологиямен және біз құрғымыз келетін болашақпен айналысуы керек. Және бұл процесс тезірек жүзеге асуы тиіс.

Біз ЖИ бар әлемде өмір сүріп жатырмыз, демек, онымен қалай жұмыс істеу керектігін түсінуіміз керек. Сондықтан біз бірнеше негізгі ережелерді белгілеуіміз қажет. Сіз бұл кітапты оқып отырған кездегі ЖИ мен мен мұны жазып отырған кездегі ЖИ-дің айырмашылығы болуы мүмкін болғандықтан, мен кейбір жалпы принциптерді қарастырғым келеді. Мүмкіндігінше, біз үлкен тілдік модельдерге негізделген барлық қазіргі генеративті ЖИ жүйелеріне тән және уақытпен шектелмейтін мәселелерге назар аударамыз.

Менің ЖИ-мен жұмыс істеуге арналған төрт принципім мынадай:

Бұл эксперименттер сізге өзіңіз жақсы білетін жұмыс саласында ЖИ-ді қолдану бойынша әлемдегі ең үздік маман болуға мүмкіндік береді. Оның себебі инновация туралы іргелі ақиқаттан туындайды: инновация ұйымдар мен компаниялар үшін қымбат, бірақ өз жұмысын істеп жүрген жеке тұлғалар үшін арзан. 2 Инновация — бұл сынап көру және қателесу процесі. Демек, жарнама берушіге тартымды мәтіндер жазуға көмектесетін жаңа өнім шығарғысы келетін ұйым ол өнімді құрастырып, көптеген қолданушыларда сынап, жұмыс істейтін деңгейге жету үшін көптеген өзгерістер енгізуі керек. Алайда, жарнама мәтіндерін жазушы үнемі мәтін жазады және ол жұмыс істейтін әдісті тапқанша ЖИ-ді көмекші ретінде пайдаланудың түрлі жолдарын сынап көре алады. Бұл үшін бүкіл команданы жалдаудың немесе қымбат бағдарламалық қамтамасыз етуді әзірлеу циклдарынан өтудің қажеті жоқ.

Жасанды интеллект қарқынды дамып жатқанда, ЖИ құралдарының қыр-сырын, шектеулері мен мүмкіндіктерін терең білетін қолданушылар ЖИ-дің инновациялық әлеуетін толық ашу үшін бірегей позицияда болады. Жаңа өнімдер мен қызметтерге арналған озық идеялар жиі осындай қолданушылардан шығады. 3 Және олардың жаңалықтары көбінесе стартаптар үшін күтпеген идеялардың тамаша көзі болып табылады. 4 ЖИ-ді өз жұмысына қалай пайдалы етуге болатынын анықтайтын қызметкерлер үлкен әсер етеді.

Өйткені ЖИ өте пайдалы болуы мүмкін. Тек келесі тарауларда талқылайтын кәсіби қызметте ғана емес, сонымен бірге оның өзгеше көзқарасы көмектесе алатындықтан да маңызды. Адамдар шешім қабылдауымызға әсер ететін түрлі бейімділіктерден зардап шегеді. Бірақ ол бейімділіктердің көбінің себебі — біз өз ойымыздың шеңберінде қалып қоятынымыз. Енді бізге көмектесе алатын басқа (бөтен, жасанды) ко-интеллект бар. ЖИ бізге ойлау серігі ретінде өз шешімдерімізді жақсартуға және өз таңдауларымыз туралы ойлануға көмектесе алады (жай ғана ЖИ-дің біз үшін таңдау жасауына жол бермей). Біз адамдардың шешім қабылдау қабілетін жаңа әдіспен оңай кеңейтуге болатын әлемде тұрмыз.

PARRY: Адамдар кейде менің жүйкеме тиеді.

ELIZA: Сізді толық түсініп тұрғаныма сенімді емеспін.

PARRY: Сіз мұқият болуыңыз керек.

ELIZA: Меніңше, сіз мұқият болуыңыз керек.

PARRY: Сіздің өз пікіріңізге құқығыңыз бар.

ELIZA: Менің өз пікіріме құқығым бар деген ойға не түрткі болды?

PARRY: Жалпы, адамдардың арасында болу мені мазалайды.

ELIZA: Өтінемін, толығырақ айтыңызшы.

- Ешқандай сөз блокталған жоқ - Html tag қолданылмады - Кітап мазмұны, баспа мәліметтері, авторлық құқық ақпараты, индекстер мен жарнамалық сілтемелер аттап өтілді.

Айырмашылық таңғалдырарлық.

Жақын арада компаниялар пайдаланушыны барынша «тарту» (engagement) үшін арнайы жасалған LLM-дерді қолдана бастайды. Бұл әлеуметтік желілердегі ленталардың сізді сайтта ұзағырақ ұстау үшін бапталатынына ұқсайды. Бұл сәт тез жақындап келеді, өйткені зерттеушілер ЖИ-дің мінез-құлқын пайдаланушылардың онымен сөйлесуге деген құштарлығын арттыратындай етіп өзгертуге болатынын дәлелдейтін мақалаларды жариялап үлгерді. Біз тек адам сияқты сөйлейтін чат-боттарды ғана емес, сонымен қатар біздің көңіл-күйімізді көтеретін боттарды да көретін боламыз. Bing өзінің тәсілін мен қалаған архетипке сәйкестендіру үшін аздап өзгерткені сияқты, ЖИ-лер де пайдаланушыларының қалауы туралы нәзік белгілерді ұстап алып, соған сәйкес әрекет ете алады. Адамдармен тіл табысу қиын болуы мүмкін, бірақ жақын болашақта мінсіз ЖИ-серіктер нақты шындыққа айналады. Бұл жақындық пен адамдар арасындағы қарым-қатынасқа терең әсер етеді.

Пікірлес адамдардың «жаңғырық камералары» (тек өз пікірін растайтын ақпаратты ғана есту) қазірдің өзінде қалыпты құбылысқа айналды. Бірақ жақын арада бәріміздің өз жеке, мінсіз жаңғырық камерамыз болады. Мүмкін, бұл дербестендірілген ЖИ-лер біздің барған сайын тығыз байланысқан, бірақ соған қарамастан жалғыздық дертіне шалдыққан әлеміміздегі жалғыздық індетіне қарсы тұруға көмектесер. Екінші жағынан, ЖИ бізді нақты адамдарға деген төзімділігімізді төмендетіп, симуляцияланған достарымызды, құрбыларымыз бен ғашықтарымызды көбірек құшақ жая қарсы алуға итермелеуі мүмкін. Реплика (индустрия) (индустрия) пайдаланушыларындағы сияқты адам мен ЖИ арасындағы тығыз байланыстар кеңінен тарайды және көбірек адамдар, өз еркімен немесе сәтсіздіктен, ЖИ-мен достықты шынайы деп қабылдап, алданып қалуы мүмкін.

Бұл тек бастамасы ғана. ЖИ-лер әлеммен тығыз байланысқан сайын, олардың сөйлеу немесе тыңдау қабілеті артқан сайын, жақындық сезімі де күшейе түседі. OpenAI-дағы қауіпсіздік тобының жетекшісі Лилиан Венг ChatGPT-тің әлі жарыққа шықпаған, сөйлейтін дауысы бар нұсқасымен тәжірибесі туралы айтқанда («Мені біреу тыңдап тұрғандай және жылылық сезіндім. Бұрын терапияны байқап көрмеп едім, бірақ бұл соған ұқсайтын шығар? »), бұл ЖИ-терапияның құндылығы туралы қызу пікірталас тудырды. ЖИ ешқашан терапевт ретінде ресми түрде бекітілмесе де, көптеген адамдар оны осы мақсатта және бұрын тек адамдармен тікелей байланысты қажет ететін басқа да салаларда қолданатыны анық.

Сонымен, ЖИ-ге адам сияқты қарау тек оңай ғана емес, ол тіпті ЖИ ешқашан толық сана деңгейіне жетпесе де, болмай қоймайтын құбылыс сияқты. Біз өзімізді алдауға және кез келген жерден сананың белгілерін көруге дайын сияқтымыз, ал ЖИ бізге бұған қуана көмектеседі. Мұндай тәсілдің қауіп-қатерлеріне қарамастан, оның босаңсытатын да тұсы бар. Егер біз ЖИ-дің адам емес екенін, бірақ жиі адамдардан күтетін мінез-құлыққа ұқсас әрекет ететінін есте сақтасақ, бұл «сана» сияқты нақты анықталмаған ұғымдар төңірегіндегі дауларға тым қатты батпауымызға көмектеседі. Бұны, бәлкім, Bing бәрінен де жақсы түсіндірген шығар:

ЖИ-мен жұмыс істеудің бірінші принципі — оны әрқашан ортақ талқылауға шақыру. Біз ЖИ-мен қарым-қатынас кейде адамдармен сөйлесу мен ынтымақтастыққа қаншалықты ұқсайтынын талқыладық. Бірақ ол қандай адамдарға ұқсайды? ЖИ-дің қандай дағдылары бар? Ол не нәрсеге икемді? Осы туралы айтпас бұрын, алдымен ЖИ-дің не нәрсеге мүлдем қабілетсіз екеніне көз жеткізіп алуымыз керек.

Техникалық себептерден бөлек, галлюцинациялар ЖИ-дің дереккөздерінен де туындауы мүмкін, олар біржақты, толық емес, іштей қайшылықты немесе тіпті 2-тарауда талқыланғандай қате болуы мүмкін. Модель пікірлер мен шығармашылық, көркем туындыларды фактілерден ажырата алмайды, бейнелі және тура мағынадағы тілді түсінбейді немесе сенімді және сенімсіз дереккөздердің айырмашылығын көрмейді. Бұл біржақтылық пен алдын ала қалыптасқан көзқарастар модельге деректерді жасаушылардан, кураторлардан және оны баптаушылардан берілуі мүмкін.

ЖИ-дің көркем әдебиет пен шындықтың қай жерде ұласатынын ажырата алмауы қызық жағдайларға әкелуі мүмкін. Мысалы, деректер танушы Колин Фрейзер ChatGPT-тен 1 мен 100 арасындағы кездейсоқ санды сұрағанда, ол он реттің бірінде «42» деп жауап беретінін байқаған. Егер ол шынымен кездейсоқ санды таңдаса, «42» санын жүзден бір рет қана айтуы керек еді. Менің оқырмандарым арасындағы ғылыми фантастика жанкүйерлері 42 санының неліктен жиі кездесетінін түсінген болар. Дуглас Адамстың классикалық «Автостоппен галетиканы аралау» (The Hitchhiker’s Guide to the Galaxy) кітабында 42 саны «өмір, ғалам және жалпы бәрі туралы басты сұраққа» жауап болып табылады (бұл үлкенірек мәселені ашық қалдырады: сұрақтың өзі қандай еді? ), және бұл сан интернеттегі танымал әзілге айналды. Фрейзердің болжамы бойынша, ЖИ 42 санын басқа сандарға қарағанда әлдеқайда жиі көрген, бұл оның сізге кездейсоқ жауап беріп жатырмын деп елес жасағанда сол санды таңдау ықтималдығын арттырады.

Бұл техникалық мәселелер олардың жауаптарын қалыптастыру үшін мәліметтер қоймасын емес, заңдылықтарды қолданатындығынан одан әрі қиындай түседі. Егер сіз ЖИ-ден дереккөз немесе дәйексөз келтіруді сұрасаңыз, ол сол дереккөзді немесе дәйексөзді жадынан алмай, өзі үйренген деректер арасындағы байланыстар негізінде құрастырады. Егер бұл Авраам Линкольннің Геттисберг үндеуінің (АҚШ тарихындағы әйгілі сөз) алғашқы сөздері «Four score and seven years ago» сияқты танымал дәйексөз болса, ЖИ оны дәл толықтырады: «... our fathers brought forth on this continent, a new nation, conceived in Liberty, and dedicated to the proposition that all men are created equal». ЖИ бұл байланыстарды келесі сөздің қандай болуы керектігін ойлап табу үшін жеткілікті мөлшерде көрген. Ал менің өмірбаяным сияқты беймәлім дәйексөзге келгенде, ЖИ егжей-тегжейлерді сенімді көрінетін галлюцинациялармен толтырады, мысалы, GPT-4 менің ақпараттану (ақпарат) бойынша бакалавр дәрежесім бар деп мәлімдегендей. Нақты есте сақтауды қажет ететін кез келген нәрсе ойдан шығарылған өтірікке әкелуі мүмкін, бірақ ЖИ-ге интернеттен іздеу сияқты сыртқы дереккөздерге жүгіну мүмкіндігі берілсе, бұл жағдай өзгеруі мүмкін.

Және ЖИ-ден оның неліктен бұл өтірікті шығарғанын сұрап біле алмайсыз. Ол өз процестерін сезінбейді. Сондықтан, егер сіз одан түсіндіруді сұрасаңыз, ЖИ сізге дұрыс сияқты көрінетін жауап береді, бірақ оның бастапқы нәтижеге әкелген процесспен ешқандай байланысы болмайды. Жүйе өз шешімдерін түсіндіруге немесе олардың қандай болғанын білуге қабілетсіз. Оның орнына (сіз дұрыс таптыңыз) ол сіздің сұрағыңызға жауап ретінде сізді қуантады-ау деген мәтінді ғана шығарады. LLM-дердің көбі ақпарат жеткіліксіз болған кезде «Мен білмеймін» деп айтуға бапталмаған. Керісінше, олар сізге үлкен сенімділікпен жауап береді.

LLM-дердің ойдан шығаруының ең атышулы алғашқы мысалдарының бірі 2023 жылы болды. Сол кезде адвокат Стивен А. Шварц авиакомпанияға қарсы дене жарақаты туралы сот ісін жазу кезінде ChatGPT-ті пайдаланған. Шварц сот құжаттарын іздеу үшін ChatGPT-ті қолданды: ЖИ мүлдем болмаған алты сот ісін дәйексөз ретінде келтірді. Кейін ол бұл істердің шынайылығын немесе дұрыстығын тексермей, сотқа нақты прецеденттер ретінде ұсынды.

Жалған істерді жауапкер тараптың адвокаттары байқап қалды, өйткені олар заң мәліметтер базасынан бұл туралы ешқандай құжат таба алмады. Олар судьяның назарын осыған аударды, ал судья Шварцқа дереккөздері туралы түсініктеме беруді бұйырды. Содан кейін Шварц істерді жасау үшін ChatGPT-ті қолданғанын және оның сотты алдау немесе арам ниетпен әрекет ету ойы болмағанын мойындады. Ол ChatGPT-тің қалай жұмыс істейтінін және оның шектеулері қандай екенін білмегенін, бұл туралы оқудағы балаларынан естігенін айтып ақталды.

Судья П. Кевин Кастель Шварцтың түсініктемесіне сенбеді. Ол Шварцтың арам ниетпен әрекет етіп, жалған әрі негізсіз ақпарат беру арқылы сотты адастырды деп шешті. Сондай-ақ, ол Шварцтың істердің жалған екенін көрсететін бірнеше ескерту белгілерін, мысалы, мағынасыз атаулар, күндер мен дәйексөздерді елеусіз қалдырғанын атап өтті. Ол Шварцқа және оның әріптесі, іс басқа юрисдикцияға ауысқанда оны қабылдап алған Питер ЛоДукаға 5000 доллар айыппұл салды. Сондай-ақ, ол оларға жалған істерде есімдері аталған судьялармен байланысып, оларды осы мәселеден хабардар етуді бұйырды.

Айтпақшы, жоғарыдағы үш абзацты интернетке қосылған GPT-4 нұсқасы жазған. Және олар дерлік толықтай дұрыс. Баспасөз хабарламаларына сәйкес, алтыдан көп жалған іс болған, ЛоДука істі қабылдап алмаған, тек Шварцтың орнына қатысқан, ал айыппұлдың бір себебі — адвокаттар бастапқы қателіктерінен кейін де жалған істерді қорғауды табандылықпен жалғастырған. Бұл кішкентай галлюцинацияларды байқау қиын, өйткені олар өте сенімді көрінеді. Мен оларды тек өте мұқият оқып, нәтижедегі әрбір факт пен әрбір сөйлемді зерттегеннен кейін ғана байқадым. Мүмкін, мен де бірдеңені байқамай қалған шығармын (осы тараудың фактілерін тексеретін адамнан кешірім сұраймын). Бірақ галлюцинациялардың қауіптілігі де осында: көзге бірден түсетін үлкен қателіктер емес, сіз елеусіз қалдыратын кішкентай қателіктер үлкен мәселелерге әкелуі мүмкін.

ЖИ зерттеушілері бұл мәселелердің қашан шешілетіні және олардың мүлдем шешілетіні туралы ортақ пікірге келе алмай отыр. Дегенмен, үміт сыйлайтын жайттар бар. Модельдер жақсарған сайын галлюцинациялардың үлесі азаюда. Мысалы, ЖИ ұсынған дәйексөздердегі галлюцинациялар мен қателіктер санына жүргізілген зерттеу GPT-3. 5-тің дәйексөздердің 98 пайызында қате жіберетінін, ал GPT-4-тің тек 20 пайыз жағдайда ғана елес жасайтынын көрсетті. Сонымен қатар, ЖИ-ге өз қателіктерін өзі түзетіп, өшіре алуы үшін «backspace» (артқа қайтару) пернесін беру сияқты техникалық әдістер дәлдікті арттыратыны байқалады. Сондықтан бұл мәселе ешқашан толық жойылмаса да, ол азая түседі. 4-принципті еске түсіріңіз: «Бұл сіз қолданатын ең нашар ЖИ деп есептеңіз». Қазіргі уақытта аздаған тәжірибесі бар пайдаланушылар ЖИ-ді қалай елес жасауға мәжбүрлемеу керектігін және қашан мұқият фактілерді тексеру қажет екенін үйрене алады. Бұл тақырыптағы көбірек талқылаулар Шварц сияқты пайдаланушылардың LLM-дер шығарған жауаптарға толықтай тәуелді болуына жол бермейді. Сонымен қатар, біз бұл маңызды әлсіздікке нақты қарауымыз керек, соның салдарынан ЖИ дәлдік пен шынайылықты талап ететін маңызды жұмыстар үшін толық жарамсыз.

Елес жасау ЖИ-ге жаттығу деректерінің нақты контекстінен тыс жаңа байланыстар орнатуға мүмкіндік береді. Сондай-ақ, бұл оның арнайы үйретілмеген тапсырмаларды орындай алуының бір себебі, мысалы, айдың үстінде отырып ет пісірмесін жеп жатқан піл туралы және әр сөзі дауысты дыбыстан басталатын сөйлем құрастыру. (ЖИ былай деп жауап берді: «Een olifant eet een uiige ossenstaart in een ovale omloop» — Піл сопақша орбитада пияз қосылған бұқа құйрығын жейді). Бұл ЖИ шығармашылығының парадоксы. LLM-дерді фактілермен жұмыс істеуде сенімсіз әрі қауіпті ететін қасиет, сонымен бірге оларды пайдалы етеді. Негізгі мәселе — оның әлсіз тұстарынан қаша отырып, күшті жақтарын қалай пайдалану керектігінде. Сондықтан ЖИ шығармашылық тұрғыдан қалай «ойлайтынын» көрейік.

Бұл бізді әдетте ыңғайсыз күйге түсіреді. Шынымен де, ЖИ сияқты машина қалайша жаңа әрі шығармашылық дүние шығара алады? Мәселе мынада: біз «жаңашылдық» пен «бірегейлікті» жиі шатастырамыз. Жаңа идеялар аспаннан түспейді, олар бұрыннан бар ұғымдар негізінде құралады. Инновация зерттеушілері идеяларды генерациялау кезінде рекомбинацияның (қайта біріктірудің) маңыздылығын бұрыннан айтып келеді. Серпіліс көбінесе адамдар бір-бірімен мүлдем байланысы жоқ сияқты көрінетін әртүрлі идеяларды біріктіргенде орын алады. Классикалық мысал келтірсек: ағайынды Райттар велосипед жөндеуші ретіндегі тәжірибелерін құстардың ұшуын бақылаумен ұштастырып, қанаттарды ию арқылы тепе-теңдікті сақтап, басқаруға болатын ұшақ идеясын дамытты. Олар велосипедті ойлап тапқан жоқ, құстардың ұшуын бірінші болып бақылаған да емес, тіпті ұшақ жасауға тырысқан алғашқы адамдар да емес. Бірақ олар осы ұғымдардың арасындағы байланысты бірінші болып көрді. Егер сіз әртүрлі салалардағы бір-бірінен алшақ идеяларды біріктіріп, оған аздап кездейсоқ шығармашылық қоса алсаңыз, мүмкін, жаңа бірдеңе ойлап табарсыз.

Ол мынаны ұсынды:

Уақытыңыз аяқталды.

Бірақ ЖИ адамға ғана тән шығармашылық іс — өнермен айналыса бастағанда не болады? Өнерпаздар ЖИ құралдарының жылдам қарқынмен дамуына алаңдаушылықпен жауап берді. Бұл алаңдаушылықтың бір бөлігі эстетикалық сипатта. «Адам болудың не екенін көрсететін гротескілік карикатура (өнер)», — деп жазды атақты музыкант Ник Кейв ЖИ-дің оның стилінде ән мәтінін жазу әрекеті туралы. Аниматор Хаяо Миядзаки ЖИ өнерін «өмірдің өзіне тіл тигізу» деп атады. Бір суретші ЖИ көмегімен жасаған туындысымен байқауда жеңіске жеткенде, бұл қоғамда наразылық тудырды, бірақ жеңімпаз суретші ЖИ жұмысын қорғап шықты: «Өнер өлді, достым. Бәрі бітті. ЖИ жеңді. Адамдар жеңілді».

Өнердің мәні неде деген сұрақ — ежелгі пікірталас және ол бұл кітапта немесе басқа кітапта шешімін таба қоюы екіталай. Суретшілер сезініп отырған бұл қорқыныш жақын арада ЖИ олардың жұмысымен де қиылыса бастағанда басқа да көптеген мамандық иелерінде пайда болуы мүмкін. Дегенмен, бұл өнердің күйреуі емес, керісінше шығармашылық пен өнерге серпін беруі мүмкін.

Бейнелеу өнерінде де ұқсас құбылыс орын алуда. ЖИ кескін генераторлары суреттер мен акварельдер, сәулет және фотосуреттер, сән және тарихи бейнелермен мұқият жаттықтырылған. Егер сіз ЖИ көмегімен қызықты нәрсе жасағыңыз келсе, жаңа кескін жасау кезінде осы байланыстарға жүгінуіңіз керек. Бірақ іс жүзінде адамдардың көбі ЖИ құралдарымен жасайтын дүниелері әлдеқайда қарапайым. «Жұлдызды соғыстар» өнері, киножұлдыздардың жалған фотолары, аздаған аниме, киберпанк, суперқаһармандар (әсіресе Өрмекші-адам) және таңқаларлығы, атақты адамдардың көптеген мәрмәр мүсіндері жасалуда. Бізде бәрін жасай алатын машина болса да, біз жиі өзімізге жақсы таныс нәрселерді таңдаймыз.

Бірақ ЖИ бұдан да қызықты нәрселерді істей алады! ЖИ Өрмекші-адамның мәрмәр мүсінін жасай алады, бірақ ол сонымен қатар Өрмекші-адамның таңғажайып жапондық гравюрасын немесе Альфонс Муха стиліндегі Өрмекші-адамды, тіпті Өрмекші-адамға мүлдем қатысы жоқ кескіндерді де жасай алады. Бірақ сіз одан не сұрап жатқаныңызды білуіңіз керек. Бұл ЖИ жүйелерін қолданатын адамдар арасында өнер тарихына деген қызығушылықтың оянуына әкелді, ЖИ суретшісі болғысы келетіндер өнер стильдерінің үлкен кестелерін бір-біріне таратуда. Адамдар өнер тарихы мен өнер ағымдарын неғұрлым көп білсе, бұл жүйелер соғұрлым қуатты бола түседі. Сонымен қатар, өнерді құрметтейтін адамдар ЖИ-ді тірі, жұмыс істеп жүрген суретшілердің стиліне еліктеу үшін қолданбауға бейім болар еді. Өнер мен өнер тарихын тереңірек түсіну тек жақсырақ кескіндерге ғана емес, сонымен бірге жауаптырақ кескіндерге де әкеледі деп үміттенеміз.

Біздің жаңа ЖИ-леріміз мәдени тарихымыздың орасан зор бөлігімен жаттықтырылған және оны біздің сұрақтарымызға жауап ретінде мәтін мен кескін беру үшін пайдаланады. Бірақ олардың не білетіні және қай салада ең пайдалы болатыны туралы индекс немесе карта жоқ. Сондықтан бізге ЖИ-ді басқа адамдар істей алмайтын жолмен қолданатын, күтпеген және құнды промпттарды әзірлейтін және ЖИ жұмысының шекараларын зерттейтін, ерекше салаларда кең білімі бар адамдар қажет. ЖИ гуманитарлық ғылымдарды танымал зерттеу саласына айналдыруы мүмкін, өйткені гуманитарлық білім ЖИ пайдаланушыларын онымен жұмыс істеуге ерекше бейімдейді.

Егер ЖИ қазірдің өзінде көптеген адамдардан жақсырақ жаза алса және шығармашылық тұрғыдан басым болса, бұл шығармашылық еңбектің болашағы үшін нені білдіреді?

Келесі тарауда жұмыспен қамту мәселелерін талқылайтын болсақ та, мұнда бірнеше үлкен артықшылықтар бар. Әрине, бәрі бірдей Ник Кейв немесе Хаяо Миядзаки бола алмайды немесе соған жақын талантқа ие емес. Бірақ көптеген адамдар өздерінің шығармашылық әлеуетін көрсеткісі келеді және олардың өте азы ғана бұған қол жеткізе алатынын сезінеді. Бір зерттеуде респонденттердің кімі өз шығармашылық әлеуетін жүзеге асырып жатқанын сезінетіні сұралды. Тек 31 пайызы ғана солай деп жауап берді. Әлемде жүзеге аспаған шығармашылық энергия өте көп.

Белгілі бір дәрежеде мен де сондай адамдардың бірі болдым. Мен өнерпаздар отбасынан шыққанмын — анам сурет салады, бір әпкем графикалық дизайнер, екіншісі Голливуд фильмдерін түсіреді. Бірақ барлық сабақтарға қарамастан, мен бейнелеу өнеріне бейім болмадым. Мен тырысып көрдім: кескіндеме сабақтары, сурет салу курстары, интернеттегі нұсқаулықтар. Бірақ менің бұл салада орташа деңгейде екенімді түсінуге білімім жеткілікті болды. Бақытыма орай, мен жақсы меңгерген басқа да шығармашылық түрлері бар. Мен жазамын (бұл анық) және ойындарды жобалаймын, бірақ сурет салу мен кескіндеме ешқашан менің басты талантым болған емес.

2022 жылдың 28 шілдесіне дейін солай болды. Ол күні мен алғаш рет Midjourney атты ЖИ сурет салу бағдарламасын қолдана алдым. Мен оның мүмкіндіктеріне бірден тәуелді болып қалдым және күні бойы шығармашылық бағандық диаграммалар жасаумен болдым (мен академиялық ортаданмын, ал графиктер біздің қанымызда бар). Оларды Twitter-ге сала бастадым. Келесі күні 20 000-нан астам адам менің твиттерімді ұнатты. Ғалымдар маған оларды басып шығарып, қабырғаға іліп қойғанын айтты. Мен басқа адамдарға ұнайтын нәрсе жасадым.

Бұл әсерлер өнермен ғана шектелмейді. Генеративті ЖИ адамдарға өздерінің шығармашылық импульстері үшін жаңа мүмкіндіктер мен жаңа тілдер ұсынады, кейде тура мағынасында. Студенттер маған жазу қабілеті жақсы болмағандықтан, өздерін ешкім байыппен қабылдамағанын айтты. ЖИ арқасында олар бұдан былай жазу стиліне тәуелді болмай, өз тәжірибесі мен сұхбаттары негізінде жұмысқа орналаса бастады. Мен өз дәрістерімде ЖИ-ді міндетті еткеннен бері, нашар жазылған жұмыстарды көрмейтін болдым. Студенттерім үйреніп жатқандай: егер сіз ЖИ-мен интерактивті түрде жұмыс істесеңіз, нәтиже жасанды емес, адамның қолынан шыққандай сезіледі.

Бос бетке қарап отырғанда, адамдар Батырманы басатын болады. Ештеңесіз бастағаннан гөрі, бірдеңемен бастаған әлдеқайда оңай. Студенттер эссе жаза бастағанда оны қолданады. Менеджерлер оны электрондық хаттарға, есептерге немесе құжаттарға бастама ретінде пайдаланады. Мұғалімдер кері байланыс бергенде қолданады. Ғалымдар гранттық өтінімдерді жазғанда пайдаланады. Концептуалды суретшілер оны алғашқы нұсқа үшін қолданады. Бәрі Батырманы қолданатын болады.

Алғашқы жобаны ЖИ-ге жазғызудың салдары (оны кейін өзіңіз өңдесеңіз де, бұл әрдайым бола бермейді) өте үлкен. Ықтимал салдардың бірі — шығармашылық пен бірегейлікті жоғалту. Алғашқы жобаларды жасау үшін ЖИ-ді қолданғанда, сіз машина шығарған алғашқы идеяға жабысып қалуға бейім боласыз және бұл сіздің кейінгі әрекеттеріңізге әсер етеді. Тіпті жобаны толығымен қайта жазсаңыз да, ол бәрібір ЖИ ықпалымен «уланған» болады. Сіз жақсырақ шешімдер мен түсініктер бере алатын басқа қырларды және баламаларды зерттей алмайсыз.

Тағы бір салдар — біз ойлаудың сапасы мен тереңдігін, пайымдау қабілетімізді төмендетуіміз мүмкін. Алғашқы жобаларды жасау үшін ЖИ-ді пайдаланғанда, сізге не жазып жатқаныңыз туралы қатты және терең ойланудың қажеті болмай қалады. Сіз талдау мен синтездеу сияқты ауыр жұмысты машинаға қалдырасыз және өз бетіңізше сыни және рефлексивті ойлаудан бас тартасыз. Сондай-ақ қателіктерден сабақ алу, кері байланыс алу және жеке стильді дамыту мүмкіндігін жоғалтасыз.

Бұның мәселеге айнала бастағаны туралы дәлелдер бар. Жоғарыда аталған MIT (Массачусетс технологиялық институты) зерттеуінде ChatGPT көбінесе біздің дағдыларымызға қосымша ретінде емес, адам күшін алмастырушы ретінде қолданылатыны анықталды. Тіпті, сыналушылардың басым көпшілігі ЖИ шығарған нәтижені өңдеуге де бас қатырмаған. Бұл мәселені мен ЖИ-ді алғаш қолданушылардан жиі көремін: олар жай ғана өздеріне қойылған сұрақты қосымшаға көшіріп салады да, ЖИ-ге жауап бергізеді.

Көптеген жұмыстардың көп уақытты қажет ететіні тегін емес. ЖИ қолжетімді, сапалы әрі әмбебап «оңай жолды» ұсынатын әлемде, біз жақын арада шығармашылық еңбектің барлық түрлерінде мағына дағдарысына тап боламыз. Бұның бір себебі — біз шығармашылық еңбектен мұқият ойлануды және қайта қарауды күтеміз, сонымен қатар уақыт көбінесе еңбектің көрсеткіші ретінде қызмет етеді. Мысалы, ұсыныс хатты алайық. Оқытушылардан студенттер үшін үнемі осындай хаттар жазу сұралады және жақсы хат жазу көп уақытты алады. Сіз студентті білуіңіз керек, хаттың себебін түсінуіңіз керек, оны жұмыс талаптарына және студенттің күшті жақтарына сәйкес келетіндей етіп қалай тұжырымдау керектігін шешуіңіз керек. Хаттың көп уақыт алуының мәні де осында. Оқытушының жақсы хат жазуға уақыт бөлуі оның студенттің өтінімін қолдайтынын білдіреді. Біз басқаларға бұл хаттың оқуға тұрарлық екенін түсіндіру үшін өз уақытымызды жұмсаймыз.

Немесе біз Батырманы баса аламыз.

Мәселе мынада: ЖИ жасайтын хат жақсы болады — ол тек грамматикалық тұрғыдан дұрыс қана емес, сонымен қатар адам-оқырманды сендіре алады және түсінік береді. Ол мен алатын ұсыныс хаттардың көбінен жақсырақ болады. Бұл хаттың сапасы бұдан былай оқытушының ықыласының дәлелі болмайтынын ғана емес, сонымен қатар ұсыныс хатты ЖИ-ге жазғызбау арқылы сіз адамдарға зиян тигізуіңіз мүмкін екенін білдіреді, әсіресе жазуға икеміңіз болмаса. Сондықтан қазір адамдар хаттың мақсаты (студенттің жұмысқа тұруына көмектесу) мен мақсатқа жетудің моральдық тұрғыдан дұрыс әдісі (оқытушының хат жазуға көп уақыт жұмсауы) арасында таңдау жасауы керек. Мен әлі күнге дейін барлық хаттарымды ескі әдіспен жазамын, бірақ бұл студенттеріме кесірімді тигізіп жатқан жоқ па деп ойланамын.

Енді соңғы жазбаша нәтиже маңызды болып табылатын басқа да жұмыстар туралы ойланыңыз, өйткені ол қанша уақыт жұмсалғанын және қаншалықты терең ойланылғанын көрсетеді: жұмыс нәтижелерін бағалау, стратегиялық меморандумдар, студенттердің эсселері, гранттық өтінімдер, баяндамалар, мақалаларға пікірлер. Және тағы басқалар.

Содан кейін Батырма бәрін еліктіре бастайды. Адамдар істегенде жалықтыратын, бірақ мағыналы болған жұмыстарды (мысалы, жұмыс нәтижелерін бағалау) оңай аутсорсингке беруге болады және сапасы айтарлықтай жақсарады. Біз ЖИ көмегімен құжаттар жасаймыз, олар ЖИ арқылы жұмыс істейтін кіріс жәшіктеріне жіберіледі, ал алушылар негізінен ЖИ көмегімен жауап береді. Одан да сорақысы — біз әлі де қолмен есептер жазамыз, бірақ оны ешбір адам оқымайтынын түсінеміз. Ұйымдастырушылық сарапшылар «тек форма үшін» деп атайтын мұндай мағынасыз жұмыстар әрқашан болған. Бірақ ЖИ бұрын пайдалы болған көптеген іс-әрекеттерді мағынасынан айырады. Ол сондай-ақ бұрын мағынасыз жұмыстарды бүркемелеп келген пердені де сыпырып тастайды. Мүмкін біз жұмысымыздың үлкен контексте маңызы бар-жоғын әрдайым біле бермейтін шығармыз, бірақ көптеген ұйымдарда сіздің бөлімдегі адамдар оның маңызы бар деп есептейтін. Енді ЖИ жасаған жұмыс басқа ЖИ-лерге бағалау үшін жіберілетіндіктен, сол мағына сезімі жоғалып барады.

Біз өнерде де, шығармашылық еңбек рәсімдерінде де жаңа мағына құруымыз керек болады. Бұл оңай процесс емес, бірақ біз мұны бұрын да талай рет жасағанбыз. Бұрын күйтабақ жазу арқылы ақша тапқан музыканттар енді жанды дауыста өнер көрсету арқылы ерекшеленуі керек. Фотосурет нақты майлы бояумен салынған суреттердің маңызын жойғанда, суретшілер фотосуреттің өнер түрі ретіндегі шекараларын кеңейте бастады. Электрондық кестелер деректерді қолмен енгізуді қажетсіз еткенде, әкімшілік қызметкерлердің жұмысы стратегиялық мәселелерге ауысты. Келесі тарауда көретініміздей, мағынаның бұл өзгеруі еңбек саласына айтарлықтай әсер етеді.

Адамдар ЖИ-ді қолдана бастағанда қоятын алғашқы сұрақтардың бірі — оның жұмысына әсері болады ма деген сұрақ. Жауап: үлкен ықтималдықпен, иә.

Сондықтан сіздің мамандығыңыз қандай болса да, ол жақын болашақта ЖИ-мен қиылысуы әбден мүмкін. Бұл сіздің жұмысыңыз жойылады дегенді білдірмейді. Мұның себебін түсіну үшін біз лауазымдарды бірнеше деңгейде мұқият қарастыруымыз керек. Жұмыс — бұл іс-әрекеттер жиынтығынан тұрады. Жұмыс үлкенірек жүйенің бір бөлігі болып табылады. Жүйелер мен іс-әрекеттерге үңілмейінше, біз ЖИ-дің жұмыспен қамтуға қандай әсер ететінін толық түсіне алмаймыз.

Мысалы, экономикалық университеттегі оқытушылық рөлімді алайық. 1016 кәсіптің ішінде ЖИ-мен ең көп қиылысатын 22-ші орында тұрғандықтан, мен біршама алаңдаулымын. Бірақ менің жұмысым бір бүтін бөлінбейтін нәрсе емес. Ол әртүрлі іс-әрекеттерден тұрады: сабақ беру, зерттеу жүргізу, жазу, жылдық есептер дайындау, компьютерімді күтіп ұстау, ұсыныс хаттар жазу және т. б. «Университеттің қауымдастырылған профессоры» деген лауазым — бұл жай ғана атау, ал күнделікті жұмыс әртүрлі іс-әрекеттердің қосындысынан құралады.

ЖИ осы тапсырмалардың кейбірін өз мойнына ала ала ма? Бұл сұраққа жауап — «иә», шыны керек, әкімшілік қағазбастылық сияқты кейбір тапсырмаларды ЖИ-ге қуана-қуана тапсырар едім. Бірақ бұл менің жұмысымның жойылуына әкеле ме? Жоқ. Кейбір тапсырмалардан құтылу мүмкіндігі бүкіл лауазымның жойылатынын білдірмейді. Дәл сол сияқты, электрлік құралдар ұсталарды жойған жоқ, керісінше олардың тиімдірек жұмыс істеуіне жағдай жасады; электрондық кестелер бухгалтерлердің жұмысын жылдамдатты, бірақ оларды нарықтан ығыстырып шығарған жоқ. ЖИ-дің күнделікті жұмыстарды автоматтандыруға және біздің қолымызды шығармашылық пен сыни ойлау сияқты тек адамға тән дағдыларды қажет ететін жұмыстарға босатуға — немесе өткен тарауда айтқанымыздай, ЖИ-дің шығармашылық өнімдерін басқаруға — әлеуеті зор.

Дегенмен, бұл әлі де толық көрініс емес. Біз жұмыс істейтін жүйелер де жұмысымыздың сипатын қалыптастыруда маңызды рөл атқарады. Экономикалық университет оқытушысы үшін тұрақты штаттық лауазым (tenure) — бұл жүйелік қолданыс. Бұл дегеніміз, тіпті менің міндеттерім ЖИ-ге берілсе де, мені оңайлықпен алмастыру мүмкін емес. Бірақ университеттегі басқа да көптеген жүйелік ережелер әлдеқайда нәзік құрылған. Егер ЖИ менден жақсырақ дәріс оқи алатын болса ше? Студенттер өз білімдерін ЖИ-ден алуға келісер ме еді? Біздің аудиторияларымыздың технологиясы ЖИ-мен оқытуды қабылдай алар ма еді? Университет басшылығы ЖИ-ді бұлай қолдануды құптар ма еді? Білім беру мекемелерінің сапасын бағалайтын журналдар мен веб-сайттар бізді бұл үшін төмендетпес пе еді? Менің жұмысым басқа да көптеген жұмыс орындарымен, клиенттермен және мүдделі тараптармен байланысты. Тіпті ЖИ менің жұмысымды автоматтандырса да, оның ішінде жұмыс істейтін жүйелердің өзгеруі оңай шаруа емес.

Сондықтан ЖИ-ді контекстке қойып, оның іс-әрекеттер мен жүйелер деңгейіндегі мүмкіндіктерін талқылайық.

ЖИ-дің жұмыс орындарына әсерін теориялық деңгейде талдау — бір бөлек, ал оны тәжірибе жүзінде сынау — мүлдем басқа мәселе. Мен мұны Гарвард университетінен Фабрицио Дель’Акуа, Эдвард Макфоуленд III және Карим Лахани, Уорик бизнес мектебінен Хила Лифшиц-Ассаф және Массачусетс технологиялық институтынан (MIT) Кэтрин Келлогг сияқты әлеуметтік ғалымдардан тұратын зерттеу тобымен бірге жасадым. 4 Бізге зерттеуді жүргізген әлемдегі ең үздік менеджмент-консалтинг ұйымдарының бірі — Boston Consulting Group (BCG) және эксперименттерге қатысқан сегіз жүзге жуық кеңесші қолдау көрсетті.

Кеңесшілер кездейсоқ екі топқа бөлінді: бірінші топ әдеттегідей жұмыс істеуі керек болды, ал екінші топқа 169 елде қолжетімді GPT-4 базалық нұсқасын пайдалануға рұқсат берілді. Біз оларға ЖИ бойынша қысқаша тренинг өткізіп, содан кейін таймермен BCG кеңесшілерінің күнделікті жұмысына ұқсас етіп әзірленген он сегіз тапсырманы орындауды тапсырдық. Тапсырмалардың ішінде шығармашылық жұмыстар («Спорттық аяқ киім нарығы үшін кемінде он жаңа идея ұсыныңыз»), аналитикалық жұмыстар («Аяқ киім индустриясы нарығын пайдаланушылар бойынша сегменттеңіз»), жазу және жарнама жұмыстары («Өніміңізді жарнамалайтын баспасөз релизі дайындаңыз») және сендіру тапсырмалары («Қызметкерлерге өніміңіздің неліктен бәсекелестерден жақсы екенін түсіндіретін шабыттандырушы мемо жазыңыз») болды. Біз тіпті бұл тапсырмалардың шынайылығына көз жеткізу үшін аяқ киім компанияларының директорларымен кеңестік.

ЖИ-ді пайдаланған топ, оны қолданбаған кеңесшілерге қарағанда әлдеқайда жоғары нәтиже көрсетті. Біз нәтижелерді барлық мүмкін тәсілдермен өлшедік — кеңесшілердің біліктілігін тексердік немесе нәтижелерді адамдардың орнына ЖИ-ге бағалаттық — бірақ әсер 118 түрлі талдауда да өзгеріссіз қалды. ЖИ қолдауын алған кеңесшілер жылдамырақ болды және олардың жұмысы әріптестеріне қарағанда шығармашылық тұрғыдан жоғары, жақсы жазылған және аналитикалық тұрғыдан тереңірек деп бағаланды.

Бірақ деректерге мұқият үңілгенде таңғалдырарлық әрі біршама алаңдатарлық жайт белгілі болды. Біз кеңесшілер ЖИ-ді тапсырма орындауға көмекші ретінде пайдаланады деп күткен едік, бірақ ЖИ жұмыстың басым бөлігін өзі орындаған сияқты көрінді. Сыналушылардың көбі өздеріне қойылған сұрақтарды ЖИ-ге сол күйі көшіріп баса салған және өте жақсы жауаптар алған. Дәл осындай жағдай 5-тарауда талқылаған MIT экономистері Шаккед Ной мен Уитни Чжанның жазу экспериментінде де болды: қатысушылардың көбі ЖИ берген мәтінді өңдеуге де тырыспаған. Бұл — адамдар ЖИ-ді алғаш қолдана бастағанда мен жиі кездестіретін мәселе: олар сұрақты ЖИ-ге жай ғана қоя салады және оның жауап беруіне мүмкіндік береді. ЖИ-мен жұмыс істеуде қауіп бар: әрине, өзімізді қажетсіз етіп алу қаупі, сонымен қатар ЖИ жұмысына тым қатты сеніп қалу қаупі.

Ол 181 кәсіби рекрутерді жалдап, оларға күрделі тапсырма берді: 44 үміткерді математикалық қабілеттеріне қарай бағалау. Деректер ересектердің дағдыларын халықаралық тестілеуден алынған болатын, сондықтан математикалық көрсеткіштер түйіндемелерден (CV) анық көрінбейтін. Рекрутерлер ЖИ-ден әртүрлі дәрежеде көмек алды: кейбіреулерінде жақсы немесе нашар ЖИ қолдауы болды, ал кейбіреулерінде мүлдем болмады. Ол олардың қаншалықты дәл, жылдам, еңбекқор және өздеріне сенімді екенін өлшеді.

Дель’Акуаның зерттеуі біздің BCG кеңесшілерімен жүргізген зерттеуімізде не болғанын айқындап берді. Қуатты ЖИ кеңесшілердің рульде ұйықтап қалу және шешуші сәттерде үлкен қателіктер жіберу ықтималдығын арттырды. Олар Бұдырлы шекараның пішінін дұрыс түсінбеген еді.

Дәлел ұсынылды.

Жғымды талдау әрқашан жақсы, бірақ мен одан әрі барып, ЖИ-ден менің стилім мен тәсілімді көшіруді сұрай аламын:

Және ЖИ былай деп жауап береді:

■ ЖИ жазу дағдыларында шынымен де таңғалдырарлық жетістіктерге жеткенімен, автордың қаламына (немесе пернетақтасына) нық жабысып қалуының маңызды себептері бар. Біріншіден, жазу — бұл терең жеке процесс. Бұл бірегей түсініктерді, бірегей тәжірибелерді және бірегей дауысты қағазға түсіру тәсілі. Біз жазған әрбір сөйлем біздің даралығымыз бен көзқарасымызға қаныққан, бұл оқырманмен тек адамға тән байланыс орнатады. Бұл жазу жұмысын ЖИ-ге тапсыру арқылы, ол қаншалықты жоғары дамыған болса да, сол жеке тәсілді жоғалтып алу қаупі туындайды. Сонымен қатар, жазу процесі өзіңді тану саяхаты, өз ойларыңды реттеу мүмкіндігі және тақырыпқа терең бойлау тәсілі болуы мүмкін. Егер тізгінді ЖИ-ге берсеңіз, сіз осы байытушы тәжірибелерден айырылып қалуыңыз мүмкін. ЖИ көптеген жолдармен көмектесе алатыны сөзсіз болса да, оның жай ғана құрал екенін есте сақтау өте маңызды: ол сіздің қабілеттеріңізді кеңейте алады, бірақ жазбаларымызды шынайы ететін айқын адами қасиеттерді алмастыра алмайды.

Жаман емес. Және бұл мен айтқым келген екінші мәселе еді. Жұмысыңызды ЖИ-ге тапсыру арқылы, ол қаншалықты жоғары дамыған болса да, сіз сол жеке көзқарастан айырылып қалу қаупіне бас тігесіз және жазу процесі бізге ойлануға көмектеседі. Немесе ЖИ соған ұқсас бірдеңе айтты.

Соңында, компаниялар ЖИ-ді тиімді пайдаланудың басқа құрамдас бөлігі — жүйелер туралы ойлануы керек. Ұйымдарға ең жоғары жалақы алатын жұмысшыларына әсер ететін технологияға қатысты ұстаным қабылдау туралы қысым өте жоғары болады, бұл жұмысшылардың өнімділігін арттырудың құндылығы да сондай жоғары. Ұйымдардың жұмыс істеу тәсілін түбегейлі қайта құрылымдамайынша, ЖИ-дің артықшылықтары ешқашан толық танылмайды.

Біз ұйым ішіндегі еңбекті құрылымдау және үйлестіру үшін қолданылатын жүйелер туралы сирек ойланамыз. Біз оларды істі тындырудың табиғи жолы деп қабылдаймыз. Бірақ іс жүзінде жүйелер — бұл өз дәуірінің технологиялық және әлеуметтік жағдайларының жемісі, тарихи жәдігерлер. Мысалы, ұйымдық схема бастапқыда 1850-жылдары теміржолдардың жұмыс істеуі үшін жасалған. Алғашқы теміржол магнаттарының бұл туындысы оларға өздерінің теміржол империясын басқаруға және бақылауға мүмкіндік беретін билік, жауапкершілік және байланыстың иерархиялық жүйесін құрды. Телеграфияның көмегімен олар адамдарды нақты иерархиялық жүйеге біріктірді, онда бастықтар бұйрық беріп, ол бұйрықтар рельстер мен телеграф желілері арқылы схеманың төменгі сатысындағы жұмысшыларға жететін. Жүйенің сәтті болғаны сонша, оны көп ұзамай басқа салалар мен ұйымдар қабылдап, бұл жиырмасыншы ғасырдағы бюрократияның стандартты моделіне айналды.

Адам мүмкіндіктері мен технологияның ұштасуынан тағы бір жүйе пайда болды: конвейер желісі. Әдетте ХХ ғасырдың басында Генри Фордтың өнертабысы деп саналатын конвейер оның компаниясына автомобильдердің үлкен көлемін арзан әрі жылдам шығаруға мүмкіндік берді. Ол адамдардың күрделі және әртүрлі жұмыстарды атқаруға аса икемді емес екенін, бірақ қарапайым және үнемі қайталанатын жұмыстарды орындауға өте шебер екенін түсінді. Ол сондай-ақ стандартталған құралдар мен бөлшектерді, сондай-ақ конвейер мен таймерлер сияқты жаңа технологияларды қолдану арқылы технологияның жұмыс ағынын үйлестіруге және оңтайландыруға көмектесетінін байқады. Ол өндіріс процесін кішкентай, қарапайым тапсырмаларға бөліп, оларды қайталап әрі тиімді орындайтын жұмысшыларға тапсырды. Оның жүйесі сәтті болғаны соншалық, өндіріс саласында төңкеріс жасап, ауқымды кеңейтуге, жаппай тұтыну мен тапсырыс бойынша өндіруге жол ашты.

Компаниялар ЖИ-дің бұл буыны пайда болғанға дейін жұмысшыларды автоматтандырылған бақылау формаларымен тәжірибе жасап көрген болатын. Уақыт есептегіш сағаттар, камералар және бақылаудың басқа түрлері бір ғасырдан астам уақыт бойы үйреншікті жағдай болды, бірақ бұл тәсілдер LLM-ге дейінгі ЖИ-дің пайда болуымен, әсіресе жұмыс пен жұмысшыларды бақылау үшін алгоритмдерді қолданумен жеделдей түсті. Жолаушының жаман бағалауына қарамастан, Uber-ден жақсы тапсырыс күтетін фрилансерді немесе әрбір жүру минуты алгоритм арқылы қадағаланып, жұмысында қалу үшін жеткілікті тиімді ме екені анықталатын UPS жүргізушісін елестетіп көріңіз. MIT-тен Кэтрин Келлогг және Стэнфордтан Мелисса Валентайн мен Анжель Кристин бақылаудың бұл жаңа формаларының бұрынғы менеджмент формаларынан айырмашылығын сипаттады. 7 Бұрын менеджерлер жұмысшылардың не істеп жатқаны туралы шектеулі ақпаратқа ие болса, алгоритмдер жан-жақты әрі жедел, олар жұмысшыларды қадағалау үшін әртүрлі көздерден үлкен көлемдегі деректерді пайдаланады. Алгоритмдер сонымен қатар интерактивті болып табылады және жұмысшыларды компания қалаған кез келген тапсырмаға нақты уақыт режимінде бағыттайды. Сондай-ақ олар мөлдір емес: олардың бұрмаланулары, тіпті шешім қабылдау тәсілдері де жұмысшылардан жасырылады.

Уортон мектебінің қауымдастырылған профессоры Линдси Кэмерон жұмысшылардың алгоритмдік басқарумен қалай күресетінін зерттеген алты жылдық этнографиялық зерттеуі барысында өзі ерікті жүргізуші болып жұмыс істеп, мұны өз көзімен көрді. Жұмыс табу үшін Uber немесе Lyft алгоритмдеріне еріксіз тәуелді болғандықтан, олар өз тағдырын біршама бақылауда ұстау үшін жасырын қарсылық көрсетеді. Мысалы, жүргізушілер жолаушының төмен баға беріп (соның салдарынан болашақ табысына нұқсан келтіруінен) қорқуы мүмкін, сондықтан оларды алып кетпес бұрын жолдан бас тартуға көндіреді, мысалы, жүргізуші келу нүктесін көре алмай тұрғанын айтады. 8 Бірақ мұндай қарсылық актілері де жүргізушілерді қайда бару керектігін, қанша табыс табатынын және уақытын қалай өткізетінін анықтайтын алгоритмнен босатпайды.

Бірақ басқа, неғұрлым утопиялық мүмкіндіктер де бар. Біз үлкен көлемдегі адамдарды машиналық билеушілерге бағындыруға міндетті емеспіз. LLM-дер бізге көптеген жұмыстардың шынымен де зеріктіретін және мағынасыз екендігі туралы шындықты бұдан былай елемеу мүмкін емес екенін түсінуге көмектесу арқылы дамуымызға септігін тигізе алады. Егер біз мұны мойындасақ, назарымызды адамның жұмыс тәжірибесін жақсартуға аудара аламыз.

Сауалнамаларға сәйкес, адамдар жұмыста аптасына шамамен он сағат зерігетінін айтады, бұл жұмыс уақытының өте үлкен бөлігі. 9 Жұмыстың бәрі қызықты болуы шарт емес болса да, үлкен көлемдегі жұмыс негізсіз зеріктіреді және бұл үлкен мәселе. Зерігу — адамдардың компаниядан кетуінің негізгі себептерінің бірі ғана емес, сонымен қатар ішіміз пысқанда біз біртүрлі әрекеттер жасаймыз. Төменгі курс студенттері арасында жүргізілген шағын зерттеу нәтижесінде ерлердің 66 пайызы және әйелдердің 25 пайызы он бес минут бойы ештеңе істемей отырғанша, өздеріне ауыр электр тогымен соққы бергенді артық көретіні анықталды. 10 Зерігу бізді тек өзімізді қинауға итермелемейді: зеріккен адамдардың 18 пайызы мүмкіндік туғанда құрттарды өлтірген (ал зерікпеген адамдардың тек 2 пайызы ғана мұны істеген). Зеріккен ата-аналар мен әскери қызметшілер де қатыгездік танытуға бейім болады. 11 Зерігу тек іш пыстырарлық қана емес, ол өз алдына қауіпті.

Идеал әлемде менеджерлер зерігуді тудыратын мағынасыз және сананы шаршататын жұмысты тоқтатуға тырысып, жұмысты қызықтырақ тапсырмаларға бағыттайтындай етіп өзгертер еді. Бірақ көптеген жылдар бойғы менеджмент консалтингіне қарамастан, ресми процестердің, формалар мен лауазымдық талаптардың көпшілігі өздерінің пайдалылық мерзімі өтсе де сақталып келеді. Адамдар бұл зеріктіретін жұмысты тоқтата алмады, бірақ мүмкін машиналар мұны істей алар.

Біз жазудың ең жалықтыратын бөліктерін (грамматикалық тексеру) және есептеуді (бағанмен бөлу) емле тексергіш пен калькулятор сияқты машиналарға тапсырып қойғанбыз, бұл бізді сол зеріктіретін жұмыстан босатты. Бұл процесті одан әрі кеңейту үшін LLM-дерді пайдалану қисынды болар еді. Және бұл шын мәнінде ЖИ-ді жұмыста қолдану туралы алғашқы зерттеулерде орын алды. Жұмысын орындау кезінде ЖИ қолданатын адамдар жұмысынан көбірек ләззат алады және өз таланттары мен қабілеттерін пайдалануға көбірек мүмкіндігі бар екенін сезеді. 12 Жалықтыратын, мағынасыз жұмысты ЖИ-ге тапсыру мүмкіндігі бостандық болуы мүмкін. Жұмысыңның ең зеріктіретін аспектілері ЖИ-ге ауысады, осылайша сен қызықты істерге назар аудара аласың.

Сондықтан, егер біз ЖИ-ге шынымен беретін алғашқы тапсырмалар туралы ойланатын болсақ, кез келген басқа автоматтандыру толқыны сияқты бастауымыз керек: зеріктіретін, (психикалық денсаулық үшін) қауіпті және рутиналық істерден. Компаниялар мен ұйымдар бастапқыда зеріктіретін процестерді «ЖИ-ге қолайлы» ету жолдарын ойластырып, машиналарға (адам бақылауымен) міндетті формаларымызды толтыруға рұқсат бере алады. Егер жұмысшылар ЖИ көмегімен зеріктіретін жұмыстарды өте жылдам аяқтағаны үшін марапатталса, бұл бизнес-процестерді оңтайландыруға көмектесіп, сонымен бірге барлығын бақыттырақ етер еді. Егер бұл құнын жоғалтпай автоматтандыруға болатын тапсырмаларды анықтаса, тіпті жақсы. Мүмкін ол жұмыстар мүлдем жойылуы да мүмкін. Қалай болғанда да, бұл балама жолдан — алгоритмдік бақылаудан гөрі жақсырақ бастапқы нүкте.

Жұмыс орындары жұмыс істейтін жүйелерге тереңірек үңілгенде, жұмыстың сипаты жылдам емес, керісінше баяу өзгереді деп болжауға тағы бірнеше себептерді көреміз. Адамдар біздің ұйымдардың әрбір аспектісімен тығыз байланысты. Бұл байланысты үзбей, адамды машинамен алмастыра алмайсыз. Егер сіз дәрігерді бір күнде ЖИ-мен алмастыра алсаңыз, емделушілер қабылдау бөлмесінде машинаны көруге келісер ме еді? Жауапкершілік ережелері қалай жұмыс істер еді? Денсаулық сақтау саласының басқа қызметкерлері қалай бейімделер еді? Дәрігер әрқашан істейтін басқа жұмыстарды, мысалы, тағылымдамадан өтушілерді оқытуды немесе кәсіби ұйымдарға мүше болуды кім атқарар еді? Біздің жүйелер жұмысымызға қарағанда өзгеріске төзімдірек болады.

Сондықтан, экономистер панелінің үштен екісінен астамы ЖИ келесі бірнеше жылда жалпы жұмыспен қамтуға өте аз әсер етеді, бірақ бүкіл экономикаға серпін береді деп күтетініне ешкім таң қалмайды. 14 Дегенмен, бұл жаңа технологиялар ешқашан жаппай жұмыстан босатуға әкелмейді дегенді білдірмейді. Шын мәнінде, бұл бұрын әйелдер ең көп атқарған жұмыс категорияларының бірінде болған: телефон операторлары. 1920-жылдары американдық әйелдердің 15 пайызы телефон операторы болып жұмыс істеген және AT&T АҚШ-тағы ең ірі жұмыс беруші болған. Содан кейін AT&T ескі телефон операторларын жұмыстан шығарып, оларды әлдеқайда арзан тікелей қоңырау шалу жүйесімен алмастыруға шешім қабылдады. Телефон операторларының жұмыспен қамтылуы тез арада 50-80 пайызға азайды. Күтілгендей, жалпы еңбек нарығы тез бейімделді және жас әйелдер ұқсас немесе жоғары жалақысы бар хатшы сияқты басқа лауазымдарды тапты. Бірақ телефон операторы ретінде үлкен тәжірибесі бар әйелдердің ұзақ мерзімді табысына қатты соққы болды, өйткені олардың қазір жойылған лауазымдағы жұмыс тәжірибесі басқа мамандықтарға сәйкес келмеді. Жұмыспен қамту әдетте автоматтандыруға бейімделгенімен, бұл әрдайым бола бермейді, кем дегенде барлығы үшін емес.

Әрине, ЖИ бұрынғы технологиялық толқындардан өзгеше әрекет етуінің де себептері бар. Бұл негізінен көптеген жоғары жалақы алатын жұмысшыларға әсер ететін алғашқы автоматтандыру толқыны. Оған қоса, ЖИ бұрынғы технологиялық толқындарға қарағанда әлдеқайда жылдам және жалпылама енгізілуде. Және бұл жаңа технологияның шекаралары мен мүмкіндіктері, оның қаншалықты жылдам өсетіні және оның әсерлері қаншалықты тарихи емес және оғаш болатыны әлі де белгісіз.

Білім еңбегі әртүрлі жұмысшылардың қабілеттері арасындағы үлкен айырмашылықтармен танымал. 15 Мысалы, қайталанған зерттеулер барысында ең жоғарғы 75-ші процентильдегі және ең төменгі 25-ші процентильдегі бағдарламашылардың деңгейі бағдарламалаудың белгілі бір критерийлері бойынша бір-бірінен 27 есе өзгеше болуы мүмкін екені анықталды. Және менің өз зерттеуім бойынша, жақсы және жаман менеджерлер арасында үлкен алшақтық бар. 16 Бірақ ЖИ мұның бәрін өзгерте алады.

Бірінен соң бірі жүргізілген зерттеулерде ЖИ-ден ең көп қолдау алатын адамдар — бастапқыда қабілеті төмен адамдар: ол нашар нәтиже көрсеткендерді үздіктерге айналдырады. 17 Жазу тапсырмаларында нашар жазушылар орташа деңгейге көтеріледі. Шығармашылық тестілерінде ЖИ шығармашылығы ең төмен адамдарды көбірек жақсартады. 18 Ал заң факультетінің студенттері арасында заң мәтіндерін ең нашар жазатындар жақсы жаза бастайды. 19 Және колл-орталықтағы алғашқы генеративті ЖИ бойынша жүргізілген зерттеуде ең нашар нәтиже көрсеткен қызметкерлердің өнімділігі 35 пайызға артты, ал тәжірибелі қызметкерлердің нәтижесінде дерлік жақсару байқалмады. 20 BCG-дегі зерттеуіміз кезінде біз де ұқсас әсерлерді байқадық. Дағдылары ең аз адамдар ЖИ-ден ең көп пайда көрді, бірақ тіпті үздіктер де ілгерілеушілік көрсетті.

Дәл осы жерде ЖИ сахнаға шығады. Немесе үміт еткеніміздей, сахнаға шығуы тиіс. Қазіргі ЖИ-лер қаншалықты таңғажайып болса да, біз әлі адам-мұғалімдерді сиқырлы оқулықтармен алмастыратын деңгейге жеткен жоқпыз. Дегенмен, біз ЖИ білім беру және білім алу тәсілдерін — оқу кезінде де, одан кейін де — түбегейлі өзгертетін бетбұрыс нүктесінде тұрғанымыз анық. Сонымен бірге, жақын болашақта ЖИ-дің білім беруге тигізетін әсері интуицияға қайшы болуы мүмкін. Ол мұғалімдерді алмастырмайды, керісінше, оқу аудиторияларына деген қажеттілікті арттыра түседі. Бәлкім, ол бізді мектепте фактілерді азырақ емес, көбірек үйренуге мәжбүрлейтін шығар. Және ол оқыту әдісін жақсартпас бұрын, алдымен оны астаң-кестеңін шығарады.

Ғасырлар бойы білім беру саласы айтарлықтай аз өзгерді. Оқушылар сыныпта жиналып, мұғалімнен дәріс алады. Олар оқу материалын пысықтау үшін үй тапсырмасын орындайды және білімнің сақталғанына көз жеткізу үшін тест тапсырады. Содан кейін келесі тақырыпқа көшеді. Сонымен қатар, педагогика ғылымында көптеген жетістіктерге қол жеткізілді. Мысалы, біз сыныптық сабақтың ең тиімді оқыту әдісі емес екенін және оқушылардың материалды есте сақтауын қамтамасыз ету үшін тақырыптарды бір-бірімен сабақтастыру керектігін білеміз. Өкінішке орай, оқушылар үшін үй тапсырмасы мен тесттердің ерекше пайдалы оқыту әдістері екенін зерттеулер дәлелдеп отыр.

ЖИ көмегімен көшіру — өте оңай шаруа. Тіпті ЖИ-дің негізгі мүмкіндіктері алаяқтық жасау үшін арнайы жасалғандай көрінеді. Үй тапсырмасының ең көп таралған түрлерін қарастырайық. Көбінесе сіз бірдеңені оқып, сосын оның қысқаша мазмұнын беруіңіз немесе оқығаныңыз туралы есеп жазуыңыз керек. Мұндай тапсырмада оқушы материалды меңгеріп, оған интеллектуалды талдау жасайды деп күтіледі. Бірақ ЖИ ақпаратты қорыту мен қолдануға өте шебер. Қазіргі уақытта ол тіпті PDF файлдар мен тұтас кітаптарды оқи алады. Бұл студенттерді жазбаша материалды жинақтау кезінде ЖИ көмегіне жүгінуге итермелейді. Әрине, нәтижеде қателер мен қарапайымдандырулар болуы мүмкін, бірақ олар мінсіз болған күннің өзінде де, бұл жинақтамалар студенттің ойлау жүйесін қалыптастырып тастайды. Сонымен қатар, бұл жұмысты жеңілдету оқушының мәтінді өздігінен талдауына деген құлықсыздығын арттырып, сабақ кезіндегі пікірталастардың интеллектуалдық құндылығын төмендетуі мүмкін. Немесе дайындық емтихандарын алайық. Біз ЖИ-дің магистратура деңгейіндегі маңызды емтихандардан жоғары баға алатынын көрдік, сондықтан бесінші сыныптағы баланың есебін шығару ол үшін еш қиындық тудырмайды.

Мен сыныпта эссе жазу уақытша шара ретінде қайтадан сәнге айналатынына сенімді болсам да, ЖИ студенттерге тек көшіруге көмектесіп қана қоймайды. Әрбір мектеп немесе мұғалім не нәрсенің қабылдауға болатынын терең ойлануы керек: егер сіз ЖИ-ден жоба нұсқасын немесе қысқаша мазмұнын жазып беруді сұрасаңыз, бұл көшіру ме? Егер сіз тұрып қалған сөйлемге көмек сұрасаңыз ше? Сілтемелер тізімін немесе тақырып бойынша түсініктеме сұрау көшіру ме? Біз білім берудің не екенін қайта қарауымыз керек. Біз мұны бұған дейін де шектеулі түрде жасағанбыз.

Пікірлер тез өзгерді, 1970-жылдардың соңында ата-аналар мен мұғалімдер калькулятор пайдаланудың әлеуетті артықшылықтарын, мысалы, оқуға деген жақсы көзқарас пен балаларды технологияға бағытталған әлемге жақсырақ дайындауды көре бастады. Бір-екі жылдан кейін жүргізілген басқа зерттеу мұғалімдердің 84 пайызы сабақта калькуляторды қолданғысы келетінін көрсетті, бірақ олардың тек 3 пайызы ғана калькулятор ұсынатын мектепте жұмыс істеген. Көптеген мұғалімдер калькуляторды қолдану бойынша дайындықтан өтпеген еді және оларды сабаққа енгізу үшін мектеп әкімшілігі мен ата-аналардың қолдауына мұқтаж болды. Мемлекеттік саясаттың жоқтығына қарамастан, көптеген мұғалімдер оқыту процесінде калькуляторды қолдануды талап ете берді. Пікірталас 1980-жылдар мен 1990-жылдардың басына дейін жалғасты, кейбір мұғалімдер калькуляторлар оқушылардың базалық дағдыларды меңгеруіне кедергі келтіреді деп сенсе, басқалары оны болашақ үшін таптырмас құрал деп санады. 1990-жылдардың ортасында калькуляторлар оқу бағдарламасының бөлігіне айналды және математиканы оқытудың басқа әдістеріне қосымша ретінде пайдаланылды. Кейбір тесттерде оларды қолдануға рұқсат берілді, кейбірінде берілмеді. Практикалық консенсусқа қол жеткізілді. Математикалық білім беру күйреп қалған жоқ, бірақ калькулятор сыныптарда пайда болғаннан кейін жарты ғасыр өтсе де, бұл талқылаулар мен зерттеулер әлі де жалғасып келеді.

ЖИ көмегі қажет болатын тапсырмалар және ЖИ-ді пайдалануға рұқсат етілмейтін тапсырмалар болады. Мектептегі жазу тапсырмалары, интернетке қосылмаған компьютерлерде, жазбаша емтихандармен ұштастырыла отырып, оқушылардың негізгі жазу дағдыларын меңгеруін қамтамасыз етеді. Біз маңызды дағдыларды дамытуға қауіп төндірмей, ЖИ-ді оқу процесіне қосуға мүмкіндік беретін практикалық консенсусқа келеміз. Калькуляторлар есептеп үйрену қажеттілігін жоймағаны сияқты, ЖИ де жазуды және сыни ойлауды үйрену қажеттілігін алмастырмайды. Бұған жету үшін біраз уақыт кетуі мүмкін, бірақ біз оны іске асырамыз. Тіпті, бұл міндетті түрде жүзеге асуы тиіс, өйткені «жынды шөлмекке қайта тыға алмайсың».

Калькулятор оқытудың маңыздылығын және жалпы математикалық білімді толығымен өзгертті: бұл негізінен оң нәтиже берген үлкен өзгерістер болды. Бұл революция ұзақ уақытты алды. Бірақ ЖИ-ден айырмашылығы, калькуляторлар басында мүмкіндіктері шектеулі қымбат құрал болды, бұл мектептерге оларды онжылдық ішінде біртіндеп оқу процесіне енгізуге уақыт берді. Ал ЖИ революциясы әлдеқайда жылдам және кең ауқымда жүріп жатыр. Математикада болған жағдай кез келген оқу деңгейіндегі кез келген пәнде қайталанады, бірақ бұл жолы ешқандай кідіріссіз трансформация болады.

Сонымен, оқушылар ЖИ көмегімен көшіреді. Бірақ біз бұрын пайдаланушылардың инновацияларынан көргеніміздей, олар ЖИ-ді өздерінің барлық істеріне интеграциялай бастайды, бұл мұғалімдер үшін жаңа мәселелер тудырады. Оқушылар ЖИ-дің арқасында ескірген болып көрінетін үй тапсырмасын не үшін орындау керек екенін білгісі келеді. Олар ЖИ-ді оқу серігі, авторлас немесе топ мүшесі ретінде пайдаланғысы келеді. Олар бұрынғыдан да көп нәрсеге қол жеткізгісі келеді және ЖИ-дің олардың болашақ оқу жолына не беретіні туралы жауаптар алғысы келеді. Мектептер бұл сауалдар ағынына қалай жауап беретінін шешуі керек.

Үй тапсырмасы апокалипсисі ғасырлар бойы мектептерде қолданылып келген көптеген жақсы, пайдалы тапсырма түрлеріне қауіп төндіреді. Біз жоғалтып алуымыз мүмкін нәрселерді сақтап қалу үшін тез бейімделуіміз керек және ЖИ әкелетін өзгерістерге орын дайындауымыз қажет. Бұл мұғалімдер мен білім беру басшыларының дереу іске кірісуін және ЖИ пайдалану туралы нақты тұжырымдалған саясатты талап етеді. Бірақ қазір мәселе тек ескі тапсырмаларды сақтауда емес. ЖИ оқушыларды өршіл тәсілдермен қызықтыратын білім берудің жаңа бағыттарын дамытуға мүмкіндік береді.

Кейбір тапсырмаларда мен студенттерден эсселерін ЖИ-ге жаздыру арқылы «көшіруді» сұраймын, содан кейін олар сол мәтінге түсініктеме береді: бұл студенттерді жұмыс туралы (тіпті оны өздері жазбаса да) терең ойлануға мәжбүрлейтін астыртын тәсіл. Кейбір тапсырмаларда ЖИ-ді шектеусіз пайдалануға рұқсат етіледі, бірақ студенттер нәтиже мен ЖИ шығарған фактілер үшін жауапты болады, бұл олардың кәсіби өмірінде ЖИ-мен қалай жұмыс істейтініне ұқсас. Басқа тапсырмаларда ЖИ-дің жаңа мүмкіндіктері пайдаланылады: студенттерден нақты ұйым өкілдерімен сөйлеспес бұрын ЖИ-мен жұмысқа орналасу сұхбаттарын өткізу сұралады. Ал кейбір тапсырмаларда біз ЖИ-дің мүмкін емес нәрсені мүмкін ететінін пайдаланамыз. Мысалы, Уортон мектебіндегі менің «Кәсіпкерлік» курсымның студенттеріне берілетін алғашқы тапсырма қазіргі уақытта былай дыбысталады:

Кез келген жоспар кері байланыстан (feedback) пайда көреді, тіпті бұл сізге не дұрыс болмайтынын талқылауға мүмкіндік берсе де. ЖИ-ден жобаңыз сәтсіздікке ұшырауы мүмкін он тәсілді сипаттауды және дәрістегі промпттарды қолдана отырып, сәттіліктің идеалды бейнесін беруді сұраңыз. Және қызықты болу үшін, үш атақты адамнан жоспарыңызды сынауды сұраңыз. Сіз кәсіпкерлерге (Стив Джобс, Тори Берч, Джек Ма, Рианна), көшбасшыларға (Елизавета I, Юлий Цезарь), суретшілерге, философтарға және стратегияңызды өз даусымен сынағаны пайдалы болады-ау деген кез келген адамға жүгіне аласыз.

Эссе жазуды үйрету XIX ғасырға оралып, сыныпта көк дәптерлерге қолмен жазылатын болса, басқа сабақтар студенттер күнделікті мүмкін емес нәрселерді іске асыратын футуристік сипатқа ие болады.

2023 жылы көптеген компаниялар алты таңбалы жалақысы бар «ЖИ-мен тіл табысушы» (AI whisperer) лауазымдарына хабарландыру берді. Бұл бекер емес, өйткені біз көргеніміздей, ЖИ-мен жұмыс істеу интуитивті емес. Және әр жолы жоғары жалақысы бар жаңа лауазым сипаттамасы пайда болғанда, сіз бүгін қалай байып кетуге болатыны туралы қажетті білімді ұсынатын көптеген курстарды, нұсқаулықтарды және YouTube арналарын көресіз.

Сіз жақсы промпт-инженер болу үшін қазірдің өзінде жеткілікті мәлімет оқыдыңыз. Мен бұрын жазған үшінші принциптен бастайық: ЖИ-ге адам сияқты қараңыз және оның кім екенін айтыңыз. LLM-дер сіздің промптыңыздан кейін келетін келесі сөзді немесе сөз тіркесін болжайды, бұл өте жетілдірілген автоматты аяқтау функциясы сияқты. Осы нүктеден бастап олар тілді қоса береді және келесі сөздің не болатынын қайтадан болжайды. Сондықтан көптеген модельдердің стандартты нәтижесі өте жалпылама естіледі, өйткені олар ЖИ жаттықтырылған жазбаша құжаттарда жиі кездесетін үлгілерді (паттерндерді) ұстануға бейім. Егер сіз бұл үлгіні бұзсаңыз, әлдеқайда пайдалы және қызықты нәтиже аласыз. Мұны істеудің ең оңай жолы — 5-тарауда көргеніміздей, контекст беру және шектеулер қою.

Егер сіз сәл жетілдірілген промпттар жасағыңыз келсе, істеп жатқан ісіңізді «проза түріндегі бағдарламалау» деп елестетіңіз. Сіз ЖИ-ге тапсырма бере аласыз және ол әдетте оны азды-көпті орындайды. «Әдетте» дейтінім, ЖИ нәтижелерінде кездейсоқтық көп, сондықтан сіз кәдімгі компьютерлік бағдарлама сияқты тұрақтылықты ала алмайсыз. Бірақ ЖИ-ге өте түсінікті және логикалық промптты қалай беруге болатынын ойластырған жөн.

Енді біз басқа әдістердің бірнешеуін қолданып көрейік:

Радж болса, өз жұмыс процесіне ЖИ негізіндегі сәулеттік дизайн көмекшісін біріктіреді. Ол бірдеңе жобалаған сайын, ЖИ бірден кері байланыс береді. Ол құрылымдық кемшіліктерге назар аударып, экологиялық материалдармен жақсарту жолдарын ұсынып, тіпті ықтимал шығындарды есептей алады. Сонымен қатар, ЖИ Радждың жобаларын басқа инновациялық сәулет туындыларының алып дерекқорымен салыстырып, олардың айырмашылықтарын көрсетеді және жақсарту нұсқаларын ұсынады. Тек жобаларды шығара берудің орнына, Радж ЖИ-дің түсініктемелерінің арқасында әр жобадан кейін өз жұмысына жүйелі түрде рефлексия жасайды. Бұл әр қадам сайын оның иығынан қарап, оны үздік нәтижеге итермелейтін ментордың қасында болғанымен тең.

Бірнеше айдан кейін Алекс пен Радждың даму деңгейіндегі айырмашылық айқын көрінеді. Алекстің жобалары кемелденіп жатқанымен, оның өсу қарқыны айтарлықтай төмен. Оның апта сайынғы кері байланыс сессиялары құнды, бірақ Радж әрбір жеке жобадан кейін алатын жедел әрі терең талдауды бере алмайды. Радждың ЖИ қолдауымен жасаған тәсілі саналы жаттығудың мәнін көрсетеді. Тұрақты, жылдам кері байланыс циклі мен мақсатты жақсарту ұсыныстары оның тек көп жаттығуын емес, сапалы жаттығуын қамтамасыз етеді. Бұл тұрғыда ЖИ Радж үшін жай құрал емес: ол үнемі қасында жүретін ментор ретінде қызмет етеді.

Сараптамалық біліктілік бұрынғыдан да маңызды бола түседі деп есептеймін, өйткені сарапшылар ЖИ әріптестерінен барынша пайда көре алады және ЖИ-дің қателерін тексеріп, түзете алады. Бірақ тіпті саналы жаттығу арқылы да әркім барлық салада сарапшы бола алмайды. Талант та рөл атқарады. Мен әлемге әйгілі суретші немесе үздік футболшы болғым келгенімен, қанша жаттықсам да, ол ешқашан жүзеге аспайды. Сонымен қатар, көптеген топ-спортшыларда саналы жаттығу олардың қарапайым ойыншылардан айырмашылығының тек бір пайызын ғана түсіндіреді: қалғаны — генетикалық бейімділік, психология, тәрбие және сәттілік қосындысы.

Алайда, ЖИ-дің бір маңызды әсері бар: ол мүмкіндіктерді теңестіреді. Егер сіз жазу, идея ойлап табу, талдау немесе кез келген кәсіби қызметте таланттардың төменгі жартысында болсаңыз, ЖИ-дің көмегімен айтарлықтай жақсы нәтижелерге қол жеткізгеніңізді байқаған боларсыз. Бұл жаңа құбылыс емес — тараудың басында айтқан робот-хирургтар ең нашар хирургтарға көбірек көмектеседі — бірақ ЖИ робот-хирургтарға қарағанда әлдеқайда кең қолданылады.

Мен жаңа технологиялармен оқытуға маманданған доктор Лилах Молликпен (сонымен бірге жұбайым) көп жұмыс істедім және біздің бұл салада тәжірибеміз бар. 2023 жылдың жазында ЖИ айналасындағы шу мен қорқыныш күшейген кезде, біз білім беру ғылымын промпт жасаудың терең тәжірибесімен үйлестіре алатын санаулы адамдардың қатарында болғандықтан, өте сұранысқа ие болдық. OpenAI және Microsoft сияқты ірі ЖИ компаниялары біздің промпттарымызды мектептерде қолдануға болатын үлгілер ретінде таратты. Біз өзімізді промпт жасауда ерекше қабілетті деп санамасақ та, ЖИ-ді өз айтқанымызға көндіруге өте шебер екенімізді байқадық. Неліктен бұлай екенін нақты түсінбейміз. (Тәжірибе ме? Ойын дизайны мен білім беру саласындағы білім бе? ЖИ-дің, мұғалімнің немесе оқушының орнына өзімізді қоя білу қабілеті ме? ) Бірақ бұл нақты салаларда ЖИ-мен өте жақсы жұмыс істей алатын адамдар үшін рөл бар екенін көрсетеді. Біз тек ЖИ-мен «сөйлесу» талантын ашатын нақты дағдыны немесе біліктілікті әлі нақты анықтаған жоқпыз.

ЖИ бар болашақ үшін біз адам сарапшылар ретінде өз біліктілігімізді нық дамытуымыз керек. Сараптамалық біліктілік үшін фактілер қажет болғандықтан, оқушылар әлі де оқу, жазу, тарих және жиырма бірінші ғасырда қажетті барлық басқа негізгі дағдыларды үйренуі керек. Біз бұл кең ауқымды білім адамдарға ЖИ-ден барынша пайда алуға қалай көмектесетінін көрдік. Сонымен қатар, бізге әлі де жоғары білімді азаматтар қажет, біз барлық ойлау жұмысын машиналарға тапсырмауымыз керек. Студенттер де нақтырақ бағыт таңдап, ЖИ-мен сарапшы ретінде жақсырақ бірлесіп жұмыс істей алатын салаға мамандануы қажет болуы мүмкін. Сонымен бірге, біздің жалпы қабілеттеріміздің спектрі кеңейеді, өйткені ЖИ біздегі бос орындарды толтырып, дағдыларымызды арттыруға бағыттайды. Егер ЖИ мүмкіндіктері түбегейлі өзгермесе, ол шынымен де біздің ко-интеллектімізге айналып, біліміміздегі олқылықтарды толтыруға және жақсаруға итермелейтін болады. Бірақ бұл біз ойлануымыз керек жалғыз болашақ емес.

Бұл кітап ғылыми фантастикаға толы болып көрінуі мүмкін, бірақ мен сипаттағанның бәрі қазірдің өзінде орын алды. Біз саналы емес, бірақ саналы сияқты кейіп танытуға өте шебер оғаш ақыл-ойды жасап шығардық. Бұл ақыл-ой адамзат білімінің алып архивтерінде, жалақысы төмен жұмысшылардың еңбегі арқылы жаттықтырылды. Ол емтихандардан өтіп, өзін шығармашылық тұрғыдан ұстай алады және біздің жұмыс істеуіміз бен оқуымызды өзгертуге қабілетті, бірақ ол үнемі фактілерді галлюцинациялайды. Көріп, естіп немесе оқып жатқан нәрсеңіздің ЖИ тарапынан жасалмағанына бұдан былай сенімді бола алмайсыз. Мұның бәрі қазірдің өзінде болды. Химиялық элементтердің ізі бар, жүретін және сөйлейтін «су қапшықтары» — адамдар — жақсы ұйымдастырылған құмды (кремний чиптерін) өзіміз сияқты ойлауға көндірді.

Бұдан кейін болатын нәрсе — ғылыми фантастика (әдеб. ). Немесе «ғылыми фантастикалар» дегенім дұрыс болар, өйткені көптеген ықтимал болашақтар бар. Алдағы бірнеше жылда ЖИ әлемінде не болатыны туралы төрт нақты мүмкіндікті көріп тұрмын. Алайда, бұл мүмкіндіктердің әрқайсысының салдары онша айқын емес. Мен сіз үшін әрбір мүмкіндікті баяндап, соның нәтижесінде әлем қандай болатынын айтып беремін.

Егер ЖИ қарқынды дамуын тоқтатса не болады? Иә, кей жерлерде шағын жақсартулар болады, бірақ бұл болашақта олар GPT-3. 5 пен GPT-4-тің жасаған алып секірістерімен салыстырғанда өте мардымсыз болады. Қазір қолданып жүрген ЖИ — сіз қолданатын ең жақсы нұсқа болып қалады.

Техникалық тұрғыдан алғанда, бұл шындыққа жанаспайтын нәтиже сияқты көрінеді. ЖИ-дің өзін-өзі жетілдіру қабілеті қандай да бір табиғи шекке жетті деп айтуға негіз жоқ. Бұл LLM-дердің (үлкен тілдік модельдердің) үнемі ақылды бола түсуі міндетті дегенді білдірмейді: зерттеушілер олардың негізгі архитектурасы мен жаттығуларында белгілі бір сәтте олардың мүмкіндіктерін шектейтін көптеген проблемаларды көрсетті. Мысалы, ЖИ жүйелерін жаттықтыруға арналған деректер таусылуы мүмкін немесе ЖИ-ді кеңейтуге арналған есептеу қуатының құны мен күші тым жоғары болып кетуі мүмкін. Алайда, бұл шекке жеткеніміз туралы дәлелдер аз, тіпті жетсек те, LLM-дерді әлі де көптеген жылдар бойы жүйелерден көбірек пайда алу үшін өзгертуге және түзетуге болады. Және LLM — бұл ЖИ-ге деген бір ғана тәсіл, одан кейін келетін басқа технологиялар бұл шектеулерден асып түсуі мүмкін.

Сәл де болса шындыққа жанасатын мүмкіндік — реттеу немесе құқықтық шаралар ЖИ-дің (Жасанды интеллект) әрі қарай дамуын тоқтататын әлем. Мүмкін, ЖИ мамандары үкіметтерді ЖИ әзірлеуге тыйым салуға және осы шекараларды бұзуға батылы барғандарға қарсы күш қолданумен қорқытуға көндіретін шығар. Бірақ үкіметтердің көбі реттеу туралы енді ғана ойлана бастағанын және бұл мәселеде халықаралық консенсус (ортақ келісім) жоқтың қасы екенін ескерсек, жақын арада бүкіл әлемдік тыйым салынады немесе реттеу ЖИ дамуын кілт тоқтатады дегенге сену қиын.

Сондықтан көптеген адамдардың ЖИ-дің салдарларымен күресуде «ешнәрсе өзгермейді» деп есептеуі, ЖИ-ге біржола тыйым салуға тырысуы немесе ЖИ әкелген өзгерістерді оңай бақылауға болады деп қиялдауы таңғаларлық емес. Көріп отырғанымыздай, мұндай саясаттың жұмыс істеуі екіталай. Ең сорақысы, егер адамдар ЖИ-ді өзгерістер орын алу үшін ондаған жылдар қажет болған бұрынғы технологиялық толқындармен бірдей деп есептесе, ЖИ-дің үлкен артықшылықтары айтарлықтай азаяды.

Біздің ЖИ-мен жеке қарым-қатынасымыз да өзгереді. Қазіргі жүйелердің адамға ұқсайтыны соншалық, зерттеулер ЖИ-ді қосымша баптау арқылы оны одан да тартымды, тіпті алаңдатарлық дәрежеге жеткізуге болатынын көрсетті. Миллиондаған пайдаланушысы бар платформада жүргізілген үлкен эксперимент модельдің жауаптары адамдарды сөйлесуді жалғастыруға итермелейтіндей етіп жаттықтырылса, пайдаланушылар 30 пайызға ұзағырақ қалып, әлдеқайда ұзақ сөйлесетінін көрсетті. 2 Бұл боттармен чатта сөйлесу технологиялық жақсартуларсыз-ақ әлдеқайда баурап алатынын білдіреді. Қазіргі жүйелер терең әңгіме жүргізуге жеткілікті деңгейде емес, бірақ біз адамдардың басқа адамдарға қарағанда ЖИ-мен көбірек уақыт өткізуді жөн көретініне куә болуымыз мүмкін.

Бұған дейін талқылаған басқа да үрдістер қазір сөзсіз болып отыр. Тіпті LLM-дер әрі қарай жетілмейді деп есептесеңіз де, ЖИ көптеген қызметкерлердің жұмысына, әсіресе жоғары ақы төленетін шығармашылық және аналитикалық кәсіптерге үлкен әсер етеді. Қазіргі күйінде ЖИ киборг-тапсырмаларға (адам мен ЖИ-дің бірлескен жұмысы) кең мүмкіндік береді және адамдардың қабілеті көптеген жағдайда ЖИ-ден асып түседі. Егер ЖИ әрі қарай дамымаса, еңбек нарығы өзгергенімен, ол адамдарды зеріктіретін жұмыстардан босататын және олардың нәтижелілігін, әсіресе нашар жұмыс істейтіндердің деңгейін арттыратын қосымша құрал ретінде қызмет етер еді. Бұл кейбір жұмыс орындары мен салаларға қауіп төнбейді дегенді білдірмейді — мысалы, аударма жұмыстарының басым бөлігін ЖИ иеленеді — бірақ көп жағдайда ЖИ адам еңбегін толықтай ығыстырмайды. Қазіргі жүйелер контексті (мәтін мазмұны), нюанстарды (нәзік айырмашылықтарды) және жоспарлауды түсінуге жеткілікті деңгейде қабілетті емес.

Бұл жағдай өзгеруі мүмкін.

ЖИ өз қабілеттерін экспоненциалды (өте жылдам) қарқынмен кеңейтті, бірақ технологиядағы экспоненциалды өсімнің көбі уақыт өте келе баяулайды. ЖИ жақын арада осындай кедергіге тап болуы мүмкін. Іс жүзінде бұл ЖИ мүмкіндіктері жыл сайын он есе емес, мысалы, жылына 10 немесе 20 пайызға ғана өсетінін білдіреді. Бұған көптеген себептер болуы мүмкін. Орасан зор оқыту шығындары мен реттеу талаптары — осының бір нұсқасы. Сондай-ақ, кейбір ғалымдар, соның ішінде профессор (және Meta-дағы ЖИ бойынша бас ғалым) Ян ЛеКун айтқандай, біз жақын арада Үлкен тілдік модельдердің техникалық шектеулеріне тап болуымыз мүмкін. Бұл жағдайда біз ЖИ-ді дамытуды жалғастыру үшін жаңа технологиялық тәсілдерді іздеуіміз керек болады. 3 Бірақ бұл қалай болғанда да, баяу дамудың өзі әсерлі өзгеріс қарқыны болар еді, бірақ біз оған ілесе алатын боламыз. Теледидарлардың жыл сайын қалай жақсаратынын елестетіп көріңізші. Ескі теледидарды тастаудың қажеті жоқ, бірақ жаңа модельдер бірнеше жыл бұрын сатып алған құрылғыға қарағанда әлдеқайда жақсырақ және арзанырақ. Мұндай сызықтық өзгеріс кезінде біз болашақтың келе жатқанын көріп, оған жоспар жасай аламыз.

1-сценарийдегі барлық жағдайлар мұнда да орын алады. Қаскөйлер интернетке жалған ақпарат тарату үшін ЖИ-ді әлі де қолданады, бірақ уақыт өте келе олар қауіптірек бола түседі, өйткені ЖИ күрделірек жұмыстарды атқара алатын болады. Электрондық поштаңыз дәл сізге арналып жазылған хабарламаларға толады (жарнама агенттіктері қазірдің өзінде миллиондаған пайдаланушы үшін жекелендірілген видеолар жасауға ЖИ-ді қолданады). Олардың кейбіреулері алаяқтық немесе фишинг (жеке мәліметтерді ұрлау) әрекеттері: сізге жақындарыңыздың даусымен қоңырау шалып, кепілдік ақшасын төлеуді сұрауы мүмкін. Келесі соғыс кезінде Қорғаныс министрлігінің әрбір қызметкері ЖИ арқылы жасалған өз отбасының видеолары бар өте нақты хабарламалар алатын болады. Икемсіз қылмыскерлер мен террористер өз нәтижелерін жақсарту және тиімдірек кісі өлтірушілерге айналу үшін ЖИ мүмкіндіктерін пайдаланады.

Бұл — қорқынышты мүмкіндіктер, бірақ ЖИ баяу дамитын болғандықтан, ең сұмдық сценарийлер орындала қоймайды. Алғашқы кездерде ЖИ көмегімен қауіпті химиялық заттар немесе қару жасалған оқиғалар қауіпті қосымшалардың бейберекет көбеюін тежеу үшін тиімді реттеуге серпін беруі мүмкін. Компаниялар мен үкіметтердің коалициялары немесе жеке өмірге қол сұғылмаушылықты жақтайтын ашық бастапқы кодты қолдаушылар пайдалану ережелерін әзірлеуге уақыт табады, осылайша адамдар өз тұлғасын тексерілген тәсілмен растай алады, бұл жеке деректерді ұрлау қаупін белгілі бір дәрежеде азайтады.

Бірақ алғашқы жалпықоғамдық артықшылықтар да байқала бастайды. Соңғы онжылдықтарда инновация (жаңашылдық) алаңдатарлықтай баяулады. Тіпті, жақында шыққан сенімді әрі мұңды мақалаға сәйкес, ауыл шаруашылығынан бастап қатерлі ісікті зерттеуге дейінгі әрбір салада өнертабыстардың қарқыны төмендеп келеді. 4 Ең соңғы жетістіктерді алға жылжыту үшін көбірек зерттеушілер қажет. Инновация жылдамдығы тіпті әр он үш жыл сайын 50 пайызға төмендейтін сияқты, бұл экономикалық өсімді баяулатады.

Мұның бір үлкен себебі ғылыми зерттеулердің өзінде өсіп келе жатқан мәселе сияқты: олар тым көп. Білім жүгі ауырлап барады, яғни жаңа ғалым өз бетінше зерттеу жүргізе алатындай маман болуы үшін өте көп нәрсені білуі керек. Сондықтан ғылымдағы барлық серпінді жаңалықтардың жартысын қазір қырықтан асқан адамдар жасайды, ал бұрын жас ғалымдар жаңалықтар ашатын. 5 Сол сияқты, соңғы жиырма жылда жаратылыстану ғылымдары мен технология бойынша докторлық дәрежесі бар мамандардың стартаптарының (жаңа жобаларының) саны 38 пайызға азайған. 6 Ғылым соншалықты күрделі болып бара жатқаны сонша, компания негізін қалаушы ғалымдарға ілгерілеу үшін үлкен команда мен әкімшілік қолдау қажет, сондықтан олар ірі компанияларға жұмысқа орналасқанды жөн көреді. Бұл — біздің ғылымның «Алтын ғасырының» парадоксы (қайшылығы). Ғалымдар бұрынғыдан да көп зерттеу жариялайды, бірақ нәтижесінде ілгерілеу баяу жүреді! Оқу және игеру қажет дүние тым көп болғандықтан, толып кеткен салалардағы мақалаларда жаңа зерттеулерге сілтемелер азырақ жасалады және жиі сілтеме жасалатын мақалалар жиі дәріптеледі.

Бірақ ЖИ-дің көмектесе алатыны туралы белгілер бар. Зерттеулер көрсеткендей, өткендегі мақалаларды ЖИ арқылы талдау арқылы ең болашағы зор ғылыми әзірлемелерді анықтауға болады, бұл ретте адамның сүзгілеуі ЖИ бағдарламалық жасақтамасымен үйлеседі. 7 Басқа бір зерттеуге сәйкес, ЖИ дербес ғылыми эксперименттер жүргізуде, математикалық дәлелдер табуда және т. б. салаларда үлкен үміт күттіреді. Мүмкін, ЖИ-дегі ілгерілеу бізге тек адам мүмкіндігімен шектелген ғылымның шекарасынан шығуға және ғарыш пен өзіміз туралы түсініктерімізде серпіліс жасауға жол табуға көмектесер. ЖИ-дің көптеген алғашқы жақтастары оның адам өмірін айтарлықтай ұзарту және жақсарту жолдарын ойлап табу қабілетіне сенеді. ЖИ-дің сызықтық өсуімен бұл биік мақсатқа жету мүмкін болмаса да, егер оған жету мүмкін болса, ол баяулап қалған ілгерілеу қозғалтқыштарын қайта іске қосуға көмектесуі мүмкін.

Бұл сценарийді температураны баяу көтеру ретінде қарастыруға болады. ЖИ біздің өмірімізде барған сайын үлкен рөл атқарады, бірақ бұл біртіндеп орын алатындықтан, өзгерістерді басқаруға болады. Біз сондай-ақ ЖИ-дің бірнеше үлкен артықшылықтарын көре бастаймыз: жылдамырақ ғылыми ашылулар, өнімділіктің жедел өсуі және бүкіл әлемдегі адамдар үшін білім алудың көбірек мүмкіндіктері. Салдары әртүрлі, бірақ негізінен оң болады. Адамдар ЖИ-дің даму бағытын бақылауда ұстайды.

Бірақ ЖИ осы уақытқа дейін сызықтық жолмен қозғалған жоқ.

Бұл сценарийде қауіп-қатерлер неғұрлым ауыр әрі болжаусыз болады. Кез келген компьютерлік жүйе ЖИ хакерлерінің алдында осал болады және барлық жерде ЖИ арқылы жұмыс істейтін ықпал ету науқандары жүреді. Әлі де адамдардың бақылауындағы ЖИ жүйелері қауіпті жаңа патогендер мен химиялық заттарды жасайды, осылайша үкіметтер мен террористік ұяшықтарға жоюдың жаңа әдістерін жасауға көмектеседі. LLM-ге дейінгі қарапайым ЖИ-лердің өзінде мұндай жағдайлардың белгілері болған: өмірді сақтап қалатын жаңа дәрі-дәрмектерді табу үшін құрал жасаған ЖИ зерттеушілері олардың құралы керісінше де әрекет ете алатынын түсінді: химиялық соғыс үшін жаңа заттарды жасау. Алты сағаттың ішінде ол өлімге әкелетін VX жүйке газын және одан да сұмдық нәрселерді ойлап тапты. 9 Егер ЖИ кең таралған және қуатты болса, армиялар мен қылмыскерлер оларды өз қызметін кеңейту үшін пайдаланады. Алдыңғы сценарийден айырмашылығы, біздің қазіргі мемлекеттік жүйелеріміз үйреншікті тәсілмен бейімделуге уақыт таба алмайды.

Оның орнына, бұл «жаман» ЖИ-лерді «жақсы» ЖИ-лер тежеп отырады. Бірақ бұл шешімнің Оруэллдік (қатаң бақылаудағы қоғам) реңкі бар. Көретін барлық нәрсеміз қауіпті және жаңылыстыратын ақпаратты сүзу үшін өз ЖИ жүйелерімізден өтуі керек, бұл ақпараттық көпіршіктер мен қате ақпараттың жаңа қаупін тудырады. Үкіметтер ЖИ арқылы мүмкін болатын қылмыс пен террорға қарсы қатаң шаралар қолданады, бұл «ЖИ-тократия» қаупін тудырады, ал жаппай бақылау диктаторларға да, демократияларға да өз азаматтарын көбірек бақылауға мүмкіндік береді. Әлем билік пен хакерлер арасындағы киберпанк стиліндегі шайқасқа ұқсайды, олардың бәрі ЖИ жүйелерін қолданады.

ЖИ-серіктер көптеген адамдарға қарағанда әлдеқайда тартымды сұхбаттасушыға айналады және бізбен нақты уақыт режимінде кедергісіз байланыса алады, бұл өзгеріс бәрі күткеннен де жылдамырақ болады. Жалғыздық мәселесі азаяды, бірақ әлеуметтік оқшауланудың жаңа формалары пайда болады, өйткені кейбір адамдар адамдардан көрі ЖИ-мен араласқанды жөн көреді. ЖИ-ойын-сауықтары ойындар, хикаялар мен фильмдер біріктірілген таңғажайып жекелендірілген, бірегей тәжірибелерді ұсынады. Бұл бәрі тұйықталып, тек жасанды интеллектпен ғана сөйлеседі дегенді білдірмейді. Бұл сценарийде олар әлі де саналы емес және адамдар әлі де басқа адамдармен «адами» істерді жасағысы келеді.

Адамдармен жұмыс істей отырып, ЖИ адам әлеуетін ашуға көмектесе алады. ЖИ-терапевттер мен көмекшілер жақсарғысы келетін адамдарға мұны жаңа тәсілдермен жасауға көмектеседі. Басқа жағдайда жылдап уақыт алатын жұмысты бірнеше күн ішінде орындау үшін ЖИ-ді қолдану мүмкіндігі кәсіпкерлік пен инновацияның жаңа формаларының гүлденуіне мүмкіндік береді. Мен қазірдің өзінде ЖИ-ді шабыт көзі ретінде де, көп уақыт пен қаражатты қажет ететін бағдарламалау жұмыстары мен гранттық өтінімдерді орындау тәсілі ретінде де қолданып, әлдеқайда нақты зерттеулер жүргізе алатын физиктер мен экономистермен сөйлестім. Мүмкін, ЖИ-серіктер бәрімізге бұрын қолымыз жетпейтін мақсаттарға жетуге көмектесер. Бұл өте жақсы, өйткені бұл сценарийде бәріміздің бос уақытымыз көбірек болатын сияқты.

Бұл кітапта сілтеме жасаған барлық зерттеушілерге алғыс айта отырып (және тағы да қайталаймын, барлық түсіндіру қателері олардікі емес, менікі), бірнеше тарауларда атап өткен BCG-де бірге зерттеу жүргізген команданы ерекше атап өткім келеді. Олар: Фабрицио Делл'Аккуа, Эдвард МакФоуленд III және Карим Лахани (Гарвард әлеуметтанушылары), Уорвик бизнес мектебінен Хила Лифшиц-Ассаф және MIT-тен Кэтрин Келлогг, сондай-ақ BCG-ден Саран Раджендран, Лиза Крайер және Франсуа Канделон.

Бұл кітапты дайындау барысында менің отбасы мүшелерім өте пайдалы болды. Менің әпкелерімнің бірі Джордана Моллик кітаптың атауын ойлап табуға көмектесті, қызым Миранда мен ЖИ жасаған суреттердің сапасын анықтау үшін қолданатын «құндыз сынағын» (otter Тест (іс жүргізу) (іс жүргізу)) жасап шығарды, ал ұлым Даниэль менімен ЖИ-дің терең мағынасы туралы пікірталастарға қатысып, өз көзқарастарымды қайта қарауға мәжбүр етті. Және бұл кітап, тіпті ЖИ-ге қатысты зерттеулерімнің кез келген аспектісі менің серігім, доктор Лилак Молликсіз мүмкін болмас еді. Ол тек алғашқы ұйқысыз түндерді менімен бөлісіп қана қоймай, менімен бірге үш мақала жазды және кітапта талқыланатын көптеген промпттарды жасап шығарды, сонымен қатар маған үнемі маңызды кеңестер беріп отырды. Өзің жақсы көретін адаммен маңызды нәрсемен айналысу өте толқынышты. Үлкен рақмет, Лилак!