Microsoft запретила полиции использовать ее искусственный интеллект для распознавания лиц

Компания Microsoft официально запретила полицейским департаментам США использовать генеративный ИИ для распознавания лиц с помощью Azure OpenAI Service. Об этом сообщает TechCrunch.

Это также охватывает любые правоохранительные органы во всем мире. Запрет относится к использованию технологии распознавания лиц в реальном времени на мобильных камерах, таких как нагрудные камеры и видеорегистраторы.

Эти изменения произошли после того, как компания Axon, производитель технологий и оружия для военных и правоохранительных органов, объявила о создании нового продукта, использующего генеративную текстовую модель OpenAI GPT-4 для обобщения аудио с бодикамер. Однако критики указали на потенциальные проблемы с использованием этой технологии, такие как появление ложной информации и расовые предубеждения, которые могут оставить негативные последствия, особенно при остановке полицией цветных людей.

Неясно, использовала ли компания Axon Azure OpenAI Service для своего продукта и обусловила ли это обновление политики Microsoft.