Агента ШІ Claude запустили у браузері Chrome у тестовому режимі

Anthropic розпочала пілотне тестування Claude для Chrome – ШІ, який може взаємодіяти з вебсторінками, заповнювати форми та виконувати дії від імені користувача. На першому етапі доступ отримають 1000 користувачів плану Max.

Розробники наголошують на безпеці – браузерний ШІ піддається prompt injection атакам, коли зловмисники ховають шкідливі інструкції у вебсайтах, листах або документах. Без належних захисних механізмів Claude міг би видаляти файли, красти дані або робити фінансові операції без відома користувача.

Anthropic впровадила кілька заходів безпеки. Claude запитує підтвердження у користувача перед виконанням важливих дій, не отримує доступ до небезпечних сайтів, як-от фінансові сервіси, дорослий контент чи піратські ресурси. Агент має покращені системні інструкції та класифікатори для розпізнавання підозрілих або шкідливих запитів.

Anthropic радить користуватися лише надійними сайтами та уникати фінансової, медичної чи юридичної інформації. Записатися до пілотної програми можна на claude.ai/chrome, а встановити розширення через Chrome Web Store після підтвердження облікового запису.

Нагадаємо, що Anthropic дозволила чат-боту Claude завершувати розмови зі шкідливим контентом. Також Anthropic надасть чат-бот Claude усім гілкам влади США за $1 на рік.