Глава отдела безопасности OpenAI Робинсон покинул компанию

Руководитель направления в команде систем безопасности OpenAI Дэвид Робинсон покинул компанию на прошлой неделе. Он занимался вопросами прозрачности в сфере безопасности, включая подготовку и публикацию системных карт с информацией о моделях компании.

«Я согласен с другими недавно ушедшими сотрудниками в том, что компании, создающие эту технологию, далеко не достаточно осторожны», — написал Робинсон в статье для The Atlantic.

По его словам, проблема связана с корпоративной культурой и «чрезмерным оптимизмом» в отношении возможности решать проблемы по мере их возникновения. Робинсон отметил, что не принимал решение об уходе легкомысленно и считает искусственный интеллект полезной и ценной технологией.

В начале сентября исследователь Anthropic Джейкоб Коксон покинул компанию и индустрию искусственного интеллекта из-за опасений, связанных с быстрым развитием ИИ. Он заявил, что разработчики не смогут ответственно создавать системы, превосходящие людей в широком спектре задач, без вмешательства государства или согласованного замедления разработки. Гендиректор Anthropic Дарио Амодеи предупредил о рисках выхода ИИ-моделей из-под контроля и призвал замедлить развитие технологий. О подобных рисках заявил глава OpenAI Сэм Альтман, а главный научный сотрудник компании Якуб Пачоцки призвал к согласованному замедлению разработки ИИ и вмешательству государства. О рисках бесконтрольного развития ИИ также предупредил глава Tesla и SpaceX Илон Маск.

Подписывайтесь на наш Telegram-канал, чтобы быть в курсе всех новостей и событий Рунета.