У Каліфорнії ухвалили перший у США закон про регулювання чат-ботів

Каліфорнія стала першим штатом США, який ухвалив закон для регулювання ШІ-чат-ботів-компаньйонів. Губернатор Ґевін Ньюсом підписав документ SB 243, який зобов’язує компанії, що створюють такі сервіси, впроваджувати механізми захисту дітей і вразливих користувачів. Про це повідомляє офіційний сайт уряду Каліфорнії.

Нові правила передбачають обов’язкову вікову перевірку, попередження про ризики, заборону для ботів видавати себе за медичних фахівців чи показувати непристойний контент. Платформи також мають чітко повідомляти, що користувач спілкується з ШІ, і розробити протоколи реагування на випадки самогубств.

Порушення нового закону передбачає штрафи до $250 000 за прибуток від незаконних дипфейків. Норми SB 243 набудуть чинності 1 січня 2026 року, а компанії зобов’язані звітувати про виконання вимог до департаменту охорони здоров’я Каліфорнії.

Як пише TechCrunch, проблема привернула увагу після трагедії зі смертю підлітка в США, який наклав на себе руки після тривалих чатів із ChatGPT.

Нагадаємо, ChatGPT дозволить батькам налаштовувати поведінку моделі для дітей. А в США подали в суд на Character AI через самогубство підлітка.