Бывшие работники ИИ-компаний обвиняют руководство в безразличии к рискам

Группа бывших и нынешних сотрудников ведущих AI-компаний, включая OpenAI, Google DeepMind и Anthropic, выступила с открытым письмом, в котором требует большей прозрачности и защиты для тех, кто выражает возмущение насчет потенциальных проблем, связанных с искусственным интеллектом.

Письмо заявляет, что пока нет эффективного государственного контроля над этими компаниями, и бывшие и нынешние сотрудники являются одними из немногих, кто может привлечь их к ответственности перед общественностью. Однако широкие соглашения о конфиденциальности препятствуют выражению их волнений, за исключением компаний, которые, вероятно, не решают эти проблемы.

Это письмо стало ответом на расследование Vox, в котором было показано, что OpenAI пыталась заставить своих бывших сотрудников подписать агрессивный договор о неразглашении или потерять свою долю в компании. Генеральный директор OpenAI Сэм Альтман отреагировал на это, выразив свое возмущение и заявив, что это положение было изъято из последних документов об увольнении, хотя его применение для некоторых сотрудников остается неизвестным.

Среди подписавших это письмо были бывшие сотрудники OpenAI Джейкоб Хинтон, Уильям Сондерс и Даниэль Кокотайло. Кокотайло рассказал, что покинул компанию из-за утраты доверия к ее ответственному отношению к разработке всеобщего искусственного интеллекта. Письмо также получило поддержку от выдающихся экспертов в области искусственного интеллекта, таких как Илья Степанов и Карл Фрейтаг.