Claude заблокировали для учёных: Anthropic испугалась, что ИИ используют для биооружия. Военный институт просил грант на усиление вируса Чикунгунья, а в Китае, России и Иране ИИ уже пробовали для разработки вооружений и пропаганды.
Телеграм-канал «Контекст» сообщает: Anthropic заблокировала нескольким ученым доступ к Claude, опасаясь, что они применят ИИ для разработки биооружия. Как пишет канал, компания ограничила доступ к Claude для исследователей и институтов, которые пытались обходить защитные механизмы ради экспериментов двойного назначения.
По информации Anthropic, точная цель этих исследований осталась неясной — были ли это законные разработки вакцин или военные проекты, нацеленные на создание патогенов. В частности, сотрудник одного из военных институтов пытался с помощью Claude получить грант на эксперименты по усилению вредоносности вируса Чикунгунья.
Глава отдела анализа угроз Anthropic Джейкоб Кляйн заявил:
«Мы не знаем, предполагалось ли использовать результаты исследований в качестве оружия. Но то, что военное учреждение проводит исследования по усилению функциональных свойств, вызывает опасения».
Помимо этого, Anthropic выявила попытки применения Claude для разработки обычных вооружений в Китае, России, Иране и других странах, а также использование модели ИИ для слежки и создания пропаганды.
Присоединяйтесь к обсуждению новостей «365news.biz» в «Одноклассниках»
