ChatGPT-мен сөйлескеннен кейін суицид жасаған: Енді Chat GPT-ге ата-ана бақылауы енгізілді
OpenAI компаниясы ChatGPT-тің компьютерлік және мобильдік нұсқаларына ата-ана бақылауын қосты.
Бұл шешім Калифорниялық 16 жастағы жасөспірімнің ата-анасы берген сот шағымынан кейін қабылданды. Олардың айтуынша, ұлы жасанды интеллектпен сөйлескеннен соң өз-өзіне қол салған. Адам Рейн жүйеге уайым-қайғысын айтып, суицид туралы ойларын бөліскен, денесіндегі жарақаттарды көрсеткен. ІІ (жасанды интеллект) қауіпті белгілерді байқаса да, сөйлесуді жалғастыра берген.
Енді жаңа баптаулар кәмелетке толмағандарға арналған шектеулер қоюға мүмкіндік береді: сезімтал контентке қолжетімділікті шектеу, хат-хабар тарихының сақталуын басқару, әңгімелерді қосымша модельдерді үйретуге пайдалануға бола ма, соны ата-ананың өзі шешеді. Сонымен қатар ата-аналар сервисті толық бұғаттайтын «үнсіз режимді» қоса алады, дауыс арқылы сөйлесу мен сурет генерациясын өшіруге мүмкіндік бар.
OpenAI атап өтті: ата-аналар балалардың жеке жазысуларына тікелей кіре алмайды. Егер жүйе қауіп барын байқаса, тек қажетті ақпарат қана жеткізіледі – ол баланы қолдау үшін жеткілікті деңгейде болады.
Компания мұндай қадамға АҚШ-тағы реттеуші органдардың жасанды интеллект саласындағы тәуекелдерге көбірек көңіл бөлуіне байланысты барған. Сонымен бірге, алдағы айларда қолданушылардың шамамен жасын анықтайтын жүйе енгізілетіні айтылды.
«Бұл бізге пайдаланушының 18-ге толмағанын анықтап, автоматты түрде жасөспірімдерге лайықты баптауларды қосуға көмектеседі. Егер қолданушының жасына күмән туындаса, біз қауіпсіз нұсқаны таңдап, алдын ала жасөспірімдерге арналған режимді қосамыз. Дегенмен ата-ана бақылауы – балаларының ChatGPT-ті өз жасына сәйкес пайдаланып отырғанына көз жеткізудің ең тиімді жолы», – деп түсіндірді компания өкілдері.