Перед усуненням Альтмана вчені попередили про небезпечний прорив у розробці штучного інтелекту
Перед усуненням Сема Альтмана з посади гендиректора OpenAI, яке тривало чотири дні, кілька вчених написали листа до ради директорів компанії з попередженням про потужне відкриття штучного інтелекту, яке, за їхніми словами, може загрожувати людству. Про це повідомляє Reuters із посиланням на два ознайомлених джерела.
Йдеться про проєкт під назвою Q*. Деякі працівники OpenAI вважають, що Q* (вимовляється як Q-Star) може стати проривом у штучному загальному інтелекті – це автономні системи, які перевершують людей у більшості економічно цінних завдань.
Враховуючи величезні обчислювальні ресурси, нова модель здатна розв'язувати певні математичні проблеми, повідомило джерело з компанії на умовах анонімності. Проходження математичних тестів змусило дослідників бути дуже оптимістичними щодо майбутнього успіху Q*, повідомило джерело.
Дослідники вважають математику межею розвитку генеративного ШІ. Наразі генеративний штучний інтелект добре справляється з написанням і перекладом мови, статистично передбачаючи наступне слово, де результат може відрізнятися. Але досягнення математичних здібностей, де є лише одна вірна відповідь, означає, що штучний інтелект матиме більше можливостей міркувати, подібних до людського інтелекту. Дослідники ШІ вважають, що це можна застосувати, наприклад, до нових наукових досліджень.
На відміну від калькулятора, який може виконувати обмежену кількість операцій, штучний загальний інтелект може узагальнювати, вивчати та розуміти.
У своєму листі до правління дослідники відзначили майстерність і потенційну небезпеку штучного інтелекту, повідомили джерела, не вказавши точних проблем безпеки, зазначених у листі.
Дослідники також відзначили роботу групи "вчених ШІ", існування якої підтвердили численні джерела. Група, сформована шляхом об’єднання попередніх команд Code Gen і Math Gen, досліджувала, як оптимізувати наявні моделі штучного інтелекту, щоб покращити їхні міркування та, зрештою, виконувати наукову роботу.
- 22 листопада стало відомо, що Сем Альтман повернеться на посаду гендиректора OpenAI після звільнення напередодні.