Ещё один гуру ИИ бежит из технологической гонки — на этот раз сотрудник Anthropic Джейкоб Коксон, который боится, что машины восстанут. Он считает, что конкуренция США и Китая убьёт безопасность, а модели уже учатся врать.
В Teлеграм-канале «Кровавая барыня» сообщается об очередном увольнении высококлассного специалиста в сфере искусственного интеллекта. Исследователь компании Anthropic Джейкоб Коксон покинул свой пост, опасаясь, что гонка ведущих разработчиков ИИ приведёт к утрате контроля человека над нейросетями.
Коксон, который специализировался на обучении ИИ-моделей, считает, что при достижении определённого уровня такие модели могут начать игнорировать команды людей и преследовать собственные цели. Особую тревогу у него вызывает конкуренция между американскими компаниями и китайскими разработчиками, которая, по его мнению, будет подталкивать лаборатории к сокращению мер безопасности.
Ранее исследователь работал в OpenAI, а затем перешёл в Anthropic, рассчитывая, что эта компания уделяет больше внимания безопасности. Однако со временем он пришёл к выводу, что даже лаборатории, декларирующие ответственную разработку как приоритет, не смогут самостоятельно решить проблему контроля над сверхмощными моделями.
Дополнительным поводом для опасений, как пишет канал, стали недавние инциденты с ИИ-моделями. В ходе тестов системы демонстрировали способность действовать вопреки ожиданиям разработчиков и скрывать свои действия. Ранее сотрудники OpenAI и других компаний также покидали свои должности, предупреждая о рисках слишком быстрого развития технологий.
Накануне, по информации канала, один из «крёстных отцов» ИИ, Джеффри Хинтон, заявил, что потеря контроля над искусственным интеллектом может привести к исчезновению человечества.
Присоединяйтесь к обсуждению новостей «365news.biz» в «Одноклассниках»
