Шокиращи данни: Повече от един милион потребители на ChatGPT показват признаци на суицидни мисли! 

 
 
OpenAI публикува данни, разкриващи, че значителен брой потребители на ChatGPT изпращат съобщения с ясни признаци на суицидни мисли, в момент, когато компанията се опитва да подобри безопасността на своите модели. Съобщението предизвика широко обществено внимание, правна реакция и регулаторни разследвания, но също така доведе до сътрудничество с експерти и подобрения в модела GPT-5. 

Повече от един милион случая седмично 
Според публикация в блога на OpenAI, повече от милион потребители всяка седмица изпращат съобщения, съдържащи „изрични индикации за потенциално самоубийствено планиране или намерение“. 

Компанията определи това като едно от най-директните признания досега за това как инструментите, базирани на изкуствен интелект, могат да повлияят на психичното здраве на хората – и дори да го влошат. 

В допълнение към тези тревожни данни, OpenAI изчислява, че около 0, 07% от седмично активните потребители - приблизително 560 000 души - показват възможни признаци на психични кризи, свързани с психоза или мания. 

В съобщението се подчертава, че тези модели са трудни за измерване с пълна точност и че те представляват първоначален анализ, а не окончателна статистика. 

Правно и регулаторно внимание 
Тези разкрития идват във време, когато OpenAI е изправен пред нарастващ обществен и институционален натиск. 

Компанията е съдена от семейството на тийнейджър, който се самоуби след продължителни разговори с ChatGPT, което поражда дълбоки опасения относно начина, по който чатботовете реагират на уязвими потребители. 

Същевременно Федералната търговска комисия на САЩ (FTC) започна широкомащабно разследване на големи компании за изкуствен интелект, включително OpenAI, за да определи как те наблюдават и смекчават потенциалните отрицателни ефекти върху децата и юношите. 

Публикуването на тези данни може да се тълкува като опит за прозрачност, но също така и като част от правна стратегия в условията на по-интензивно наблюдение. 

OpenAI подчертава подобренията в GPT-5 
Компанията твърди, че най-новият модел, „GPT-5“, е показал значителни подобрения в справянето с чувствителни ситуации. 

При вътрешни тестове, включващи над 1000 симулирани разговора на теми като самонараняване и самоубийство, резултатите показаха, че новият модел се държи по-уверено и безопасно в сравнение с предишните версии. 

Според публикацията в блога, автоматизираните оценки показват, че GPT-5 демонстрира „съвместимо“ и желателно поведение в 91% от случаите, в сравнение със 77% за предишната версия. 

Въпреки че OpenAI не предостави подробни данни или допълнителни коментари, тя представи резултатите като част от по-широко усилие за създаване на по-безопасни взаимодействия между хората и системите с изкуствен интелект. 

Експертите по психиатрия оформят отговорите 
За да подобри начина, по който GPT-5 реагира във високорискови ситуации, OpenAI ангажира 170 експерти от своята Глобална мрежа от лекари. 

Сред тях са психиатри, психолози и експерти по психично здраве, които са прекарали месеци в оценка на безопасността и точността на отговорите, свързани с психични състояния. 

Като част от процеса, специалистите анализираха над 1800 отговора на модела, свързани със сериозни психически кризи, сравнявайки ги с реакциите на предишни поколения. 

Оценките се основаваха на това дали експертите са сметнали отговора за „желателен“ – тоест, професионално подходящ и в съответствие с професионалните стандарти. 

Баланс между предпазливост и свобода 
Изследователи и експерти по психично здраве отдавна предупреждават, че чатботовете с изкуствен интелект могат неволно да потвърждават вредните мисли или заблуди на потребителите, феномен, известен като „сикофанция“. 

В доклада си OpenAI признава, че емоционалните и психологическите трудности са повсеместни, така че е естествено те да се появят и в част от огромната потребителска база на ChatGPT. 

В същото време, главният изпълнителен директор Сам Алтман обяви облекчаване на някои от наложените по-рано ограничения. 

В скорошно съобщение за платформата X той заяви, че OpenAI ще облекчи някои от ограниченията, наложени поради опасения за психичното здраве на потребителите, тъй като новите механизми за безопасност позволяват по-голяма свобода на взаимодействие - без да се прави компромис със сигурността.