Бірнеше жыл бұрын жасанды интеллект жайлы сөз болғанда көпшілік оны болашақтың технологиясы ретінде қабылдайтын. Ал бүгінде ол диагнозды анықтауға көмектеседі, көлік жүргізеді, заңгерге құжат әзірлейді, компанияның клиенттерімен сөйлеседі.
Жасанды интеллектінің мүмкіндігі артқан сайын оған деген сенім де күшейді. Алайда технологияның да мінсіз емес екенін естен шығармаған жөн. Ол да қателеседі. Кейде оның қатесі бірнеше жүз долларлық шығынмен аяқталса, кейде миллиондаған доллар жоғалтуға, адамның жарақат алуына немесе сот дауына себеп болады.
Ең қауіптісі – жасанды интеллект өз қатесін көбіне өте сенімді түрде айтады. Міне, үлкен қауіп осыда. Ендеше әлемде болған бірнеше оқиғаға зер салайық.
2022 жылы канадалық Джейк Моффат әжесінің қайтыс болуына байланысты Air Canada әуе компаниясының сайтындағы чат-боттан билетке қатысты жеңілдік жайлы сұрайды. Жасанды интеллект оған билетті сатып алғаннан кейін де 90 күн ішінде жеңілдікке өтініш беруге болатынын хабарлайды. Алайда компанияның ресми ережесінде мұндай мүмкіндік қарастырылмаған еді. Моффат өтемақы сұрағанда, компания одан бас тартады.
Іс сотқа жетті. Сот барысында Air Canada «чат-бот компаниядан бөлек «дербес заңды тұлға» болғандықтан, оның жауабына компания жауап бермеуі тиіс» деп күтпеген уәж айтады. Бірақ сот бұл уәжді қабылдамай, керісінше, компания өз сайтындағы барлық ақпаратқа, соның ішінде жасанды интеллектінің де жауабына жауапты екенін мәлімдеді. Нәтижесінде жолаушының шығыны өтелді.
2014-2017 жылдары Amazon компаниясы жұмысқа қабылдау процесін автоматтандыру үшін жасанды интеллект әзірлеген. Алгоритмнің мақсаты − бұрынғы мыңдаған түйіндемені талдап, үздік кандидаттарды іріктеу. Бірақ жүйе күтпеген нәтиже көрсеткен. Өйткені ол бұрынғы деректерден үйренген еді. Ал компания тарихында техникалық қызметтерге көбіне ер адамдар қабылданған болатын. Соның салдарынан алгоритм әйелдердің түйіндемесін төмен бағалай бастады. Тіпті «women’s» сөзі кездесетін құжаттарды автоматты түрде нашар рейтингке түсірген. Amazon бұл жобаны кейін толық тоқтатты.
2023 жылдың мамыр айы. АҚШ-тағы Манхэттен сотында бұрын-соңды болмаған жағдай тіркелді. Тәжірибелі адвокат сотқа ондаған беттен тұратын құқықтық құжат ұсынады. Онда бұрынғы сот шешімдері, заң баптары мен прецеденттер егжей-тегжейлі көрсетілген. Бір қарағанда, бәрі мінсіз.
Алайда судья құжаттағы деректі тексергенде күтпеген жайт анықталған. Көрсетілген алты сот ісі өмірде мүлде болмаған. Келтірілген үзінділердің ешқайсысы кездеспеді. Кейін белгілі болғандай, адвокат мәтінді жасанды интеллекті арқылы жасап, жауаптың дұрыс-бұрысын тексерместен сотқа өткізген.
Дәл осы жылы Сан-Францискода Cruise компаниясының жүргізушісіз робот-таксиі ауыр жол апатына себепкер болды. Алдымен әйелді басқа көлік қағып кеткен. Сол сәтте Cruise робот-таксиі әйелдің үстінен өтіп, кейін оны бірнеше метрге дейін сүйреп кеткен.Тергеу барысында жүйенің адамды дұрыс анықтай алмағаны және апаттан кейін көлікті тоқтатудың орнына қайта қозғалғаны белгілі болды.
2024 жылы Google компаниясының жаңа AI іздеу жүйесі қолданушыға пиццаның ірімшігі сырғып кетпеу үшін желім қосуды ұсынған. Тағы бір жауапта күніне бірнеше тас жеуге кеңес берген.
Chevrolet чат-боты көлікті 1 долларға «сатты». Иә, дұрыс оқыдыңыз. 2023 жылдың соңында интернет қолданушылары Chevrolet дилерлік орталығының жасанды интеллект чат-ботымен тәжірибе жасап көрді. Пайдаланушылар арнайы мәтіндік командалар арқылы чат-ботты шатастырып, жаңа көлікті 1 долларға сатуға «келісім» алды. Әрине, компания бұл мәмілені орындаған жоқ. Бірақ бірнеше сағат ішінде оқиға әлеуметтік желілерге тарап, миллиондаған қаралым жинады.
Жасанды интеллект – адамнан ақылды болғандықтан емес, мәліметті өте жылдам өңдей алғандықтан тиімді құрал. Бірақ ол ойламайды, жауапкершілікті сезінбейді және өз қатесін түсінбейді.
Бүгінде сарапшылардың көбі ең үлкен қауіп жасанды интеллектінің қателесуінде емес, оның қателескенін адамның байқамай қалуында деп есептейді. Себебі алгоритм жалған ақпаратты да үлкен сеніммен жеткізеді.
Сондықтан жасанды интеллект қаншалықты дамыса да, соңғы шешімді қабылдайтын адам болуы тиіс. Технология – көмекші. Ал жауапкершілік әлі де адамның мойнында.
Інжу МАРЖАН
Өзге де жаңалықтарды оқу үшін Telegram арнамызға жазылыңыз!