Уряд Великої Британії створив інструменти для перевірки безпеки штучного інтелекту

Інститут безпеки Великої Британії представив набір інструментів з покращення безпеки штучного інтелекту. Про це повідомляє TechCrunch.

Цей набір, названий Inspect, має відкритий вихідний код і дозволяє легко розробляти оцінки безпеки для промисловості, дослідницьких організацій та наукових груп.

Inspect є першим у своєму роді засобом безпеки ШІ, що розроблений державним органом і доступний для широкого використання. Він дозволяє оцінювати можливості моделей ШІ, зокрема їх базові знання і здатність до міркувань, та виставляти оцінку на основі результатів.

Голова Інституту безпеки, Ян Хогарт, наголосив на важливості спільного підходу до оцінки безпеки ШІ та сподівається, що Inspect стане спільною платформою для цих цілей. Він закликав глобальну спільноту ШІ використовувати Inspect не тільки для проведення власних тестів на безпеку моделей, але й для адаптації та використання цієї платформи з відкритим вихідним кодом.