В Калифорнии принят первый в США закон о регулировании чат-ботов

Калифорния стала первым штатом США, принявшим закон о регулировании ИИ-чат-ботов-компаньонов. Губернатор Гэвин Ньюсом подписал законопроект SB 243, обязывающий компании, создающие такие сервисы, внедрять механизмы защиты детей и уязвимых пользователей. Об этом сообщает официальный сайт правительства Калифорнии.

Новые правила предусматривают обязательную проверку возраста, предупреждения о рисках, запрет на выдачу ботами себя за медицинских специалистов или показ непристойного контента. Платформы также должны четко сообщать, что пользователь общается с ИИ, и разработать протоколы реагирования на случаи самоубийств.

Нарушение нового закона влечет за собой штрафы до $250 000 за прибыль, полученную от незаконных дипфейков. Нормы SB 243 вступят в силу 1 января 2026 года, и компании обязаны будут сообщать о соблюдении требований в департамент здравоохранения Калифорнии.

Как пишет TechCrunch, проблема привлекла внимание после трагедии со смертью подростка в США, который покончил с собой после длительных чатов с ChatGPT.

Напомним, ChatGPT позволит родителям настраивать поведение модели для детей. А в США подали в суд на Character AI из-за самоубийства подростка.