Почему OpenAI открыла ChatGPT для военных. Главное из интервью Сэма Альтмана в Давосе
Сэм Альтман из OpenAI признался, что опасается влияния искусственного интеллекта на будущие политические выборы 2024 года. Во время Всемирного экономического форума в Давосе руководитель OpenAI дал публичное интервью Ини Фрид из Axios, где ответил на неудобные вопросы об авторских правах, политических манипуляциях и использовании ИИ в военных целях.
Liga.Tech посмотрела интервью и рассказывает самое интересное из этого разговора.
Об успехе ChatGPT
"Когда мы запускали ChatGPT, думали, что он будет успешным, но не представляли, насколько хорошо он будет работать", – признается технобизнесмен. По его мнению, даже со всеми ее ограничениями, эта технология гораздо более полезна, чем они думали, и может интегрироваться в нашу жизнь более ценным способом. Альтман заявил, что теперь они подходят к запуску новых, более совершенных моделей с другой перспективы.
О моделях ИИ и влиянии на политические выборы
"Это одна из наших самых больших забот в этом году", – говорит Альтман и признается, что они ожидают новых вызовов, к которым должны быть готовы. В компании пока не знают, что это будет, только есть некоторые идеи.
Чтобы сделать все возможное для предупреждения манипуляций, OpenAI работает с широкой экосистемой партнеров: "Мы хотим иметь очень тесную обратную связь, мониторинг и быть готовыми очень быстро вносить изменения, если что-то пойдет не так. Но я из-за этого волнуюсь".
Почему разрешили военным использовать ИИ
Как объяснил Сэм Альтман, таким образом компания перешла от запрета группе людей использовать их модели искусственного интеллекта к определению, для чего именно они не могут их использовать.
"У подразделений Министерства обороны США есть отличные законные варианты использования [ИИ]. Мы не хотим, чтобы наши технологии использовались для принятия решений об убийстве, но есть много других вещей, которые делают военные. И это очень важно".
По его мнению, несмотря на то, что эта граница очень тонка, общество и технологии должны сотрудничать: "Вы не можете построить технологию тайно, а затем сразу поместить в мир. Мир будет меняться с каждой итерацией модели ИИ".
Об авторском праве и интеллектуальной собственности
В 2023 году OpenAI подписала соглашения со многими издателями и такими медиакомпаниями, как AP, Axel Springer. По словам Сэма Альтмана, эти данные им нужны не для обучения ИИ. Это сделано для того, чтобы люди, которые откроют ChatGPT и захотят, например, спросить о происходящем в Давосе, – могли получить проверенный контент.
В то же время он признался, что запрет на использование контента The New York Times или других изданий не станет для них проблемой: "Независимо от того, на чем мы тренируемся, – мы не хотим использовать чей-то контент, который защищен авторским правом. Мы работаем над тем, чтобы максимально свести это к нулю. И мы добились поразительного прогресса с новыми технологиями".
Как объяснил Альтман, когда модели ИИ становятся умнее – им нужно небольшое количество данных сверхвысокого качества: "Есть много способов, которыми мы сможем их получить".
Чего ждать от ИИ в 2024 году
Сэм не очень охотно отвечает на вопрос, что именно следующие модели GPT будут уметь в будущем. По его мнению, главное, что ИИ становится умнее, может более точно решать сложные задачи по разным направлениям. И их общее количество растет.
"Самая важная для меня вещь, с которой поможет ИИ, – это то, что он значительно ускорит темпы научных открытий. Когда это произойдет, это станет большим прорывом", – считает Альтман.
Альтман считает, что в будущем искусственный интеллект будет давать разные ответы разным пользователям в зависимости от их ценностных предпочтений и, возможно, страны их проживания.
"Если бы страна сказала, что все гомосексуалисты должны быть убиты на месте, тогда нет... это уже за рамками. Но, вероятно, есть другие вещи, с которыми я лично не согласен, но другая культура может", – говорит Альтман Axios.
Как люди будут пользоваться компьютером в будущем
По мнению Альтмана, новое поколение операционных систем компьютера близко к идее, чтобы люди работали в среде искусственного интеллекта. "Сейчас вы открываете браузер, открываете почтовый ящик, просматриваете свои письма. Потом вы просто скажете компьютеру открыть почту и найти наиболее важные из писем или найти ту вещь и отправить ее туда".
Таким образом, считает бизнесмен, человечество движется к новому способу работы со знаниями. Мы получим возможность использовать компьютер по-новому. В 2024 году этого еще не произойдет, но люди все больше будут работать внутри этой среды, заключает руководитель OpenAI.