Исследователь компании Anthropic Джейкоб Коксон уволился из-за опасений, связанных с развитием систем искусственного интеллекта. Он заявил, что не хочет участвовать в технологической гонке, которая, по его мнению, может привести к потере контроля над ИИ. Об этом сообщила газета The Wall Street Journal.
Коксон считает, что современные компании слишком быстро развивают системы искусственного интеллекта без достаточных механизмов контроля. По его мнению, особенно серьёзные риски могут возникнуть при создании моделей, которые превзойдут человека сразу во многих областях.
«Мы движемся по пути, ведущему к воплощению наиболее грозных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля», — сказал Коксон изданию.
Ранее специалист работал в OpenAI, после чего перешёл в Anthropic. Свой выбор он объяснял тем, что эта компания уделяет больше внимания вопросам безопасности при разработке искусственного интеллекта.
Однако со временем Коксон пришёл к выводу, что усилий отдельных разработчиков недостаточно. По его мнению, ни одна компания не сможет самостоятельно и безопасно создавать системы, превосходящие человека во многих сферах.
Исследователь считает, что отрасли необходимы государственное регулирование или согласованное замедление темпов разработки. Без этих мер, по его оценке, конкуренция между технологическими компаниями будет подталкивать их к дальнейшему ускорению исследований.
