Бүгінгі Қазақстан және әлемдегі жаңалықтар | Newsroom.kz RU search

«ЖИ-дің әсерін байқамай бағынасыз»: Сэм Альтман жасанды интеллекттің күтпеген қауіпін атады

OpenAI басшысы Сэм Альтманның айтуынша, жасанды интеллектке (ЖИ) бақылауды жоғалту тек қасақана жаман пиғылдан немесе технологиядағы ақаудан ғана емес, «мүлде кездейсоқ» жағдайдан да орын алуы ықтимал. Бұл туралы ол Axel Springer компаниясының жетекшісі Маттиас Дёпфнермен бірге жазылған MD MEETSподкастында айтты.

«ЖИ-дің әсерін байқамай бағынасыз»: Сэм Альтман жасанды интеллекттің күтпеген қауіпін атады
Фото: ашық дереккөз

Альтман қазірдің өзінде жүздеген миллион адамның күн сайын ChatGPT-ті пайдаланып отырғанын, ал жақында бұл көрсеткіш миллиардқа жететінін жеткізді.

«Адамдар оның жауаптарына барған сайын көбірек сенеді — өмірдегі маңызды шешім қабылдағанда да, жұмыста да, басқа істерде де», — деді ол.

Альтманның айтуынша, ЖИ дамыған сайын оған тәуелділік күшейе береді:
«Модель барған сайын ақылды бола береді. Ол сізге кеңес береді, сіз оны үнемі дерлік орынды деп табасыз. Кейін ол одан да күрделі кеңес береді, сіз тіпті оның логикасын түсінбейсіз, бірақ нәтиже дұрыс болып шығады. Ақырында сіздің алдыңызда таңдау қалады: не оның айтқанын орындау, не бәсекеде қалып қою».

Мұндай жағдайда адамдар жасанды интеллектің нұсқауын орындап жатқанын аңғармай да қалады

«Соңында бәріміз ЖИ-ассистент не десе, соны жасаймыз. Әсіресе бәсекеге қабілетті болғысы келетіндер», — деді OpenAI басшысы.

Альтман мұны «кері байланыс шеңбері» деп атады: адамдар ЖИ-ге көбірек құлақ асқан сайын, ол көбірек дерек жинайды, одан сайын ақылды бола түседі де, ықпалын күшейтеді.

«Бұл процесті кім басқарып отыр? Соңында біз модельдің қалағанын істейміз ғой», — деп түйіндеді ол.

Мобилді қосымшаны жүктеп алыңыз

NewsRoom.kz қосымшасын жүктеп, жаңалықтардан хабардар болыңыз

Орнату