OpenAI научила GPT-5 помогать пользователям в сложных и опасных ситуациях

OpenAI заявила о новых мерах безопасности в чат-боте ChatGPT после случаев, когда пользователи обращались к нему во время психических кризисов.

Модель GPT-5 обучили лучше распознавать риски самоповреждения, направлять людей на горячие линии помощи и в критических случаях передавать информацию модераторам или даже правоохранительным органам.

Компания сотрудничает с более чем 90 врачами из 30 стран, включая психиатров, педиатров и семейных врачей. В США чат-бот направляет пользователей на горячую линию 988, в Великобритании – к Samaritans, а в других странах – на сайт findahelpline.com.

С запуском GPT-5 точность ответа на кризисные ситуации выросла более чем на 25% по сравнению с предыдущей версией. Новый метод обучения safe completions позволяет чат-боту давать полезные, но безопасные советы.

OpenAI работает над защитой во время длительных диалогов и блокировкой опасного контента. Новые функции включают прямой выход на экстренные службы, быстрое оповещение доверенных контактов и специальные инструменты для подростков и родителей, в том числе родительский контроль и усиленные предохранители для рискованного контента.

Недавно генеральный директор OpenAI предложил для всех британцев. Напоминаем, что OpenAI представила ChatGPT Go.