Анураг Сингх
Unsplash
Джеффри Хинтон, также известный как «крестный отец искусственного интеллекта» и бывшие сотрудники компаний Google и OpenAI написали открытое письмо, в котором утверждают, что ИИ может привести к «вымиранию человечества».
В открытом письме несколько бывших сотрудников OpenAI и Google предупредили, что передовые компании в области ИИ, такие как OpenAI, подавляют критику и надзор. Они также отметили риски, которые таит в себе эта новая технология.
«Мы также понимаем серьезные риски, связанные с этими технологиями. Эти риски варьируются от дальнейшего усиления существующего неравенства до манипуляций и дезинформации, до потери контроля над автономными системами искусственного интеллекта, что потенциально может привести к вымиранию человечества», — говорится в письме.
Открытое письмо подписано 13 бывшими сотрудниками OpenAI и Google DeepMind, шестеро из которых пожелали остаться анонимными. Джеффри Хинтон, считающийся крестным отцом искусственного интеллекта, получивший в 2018 году премию Тьюринга за свою основополагающую работу, которая привела к нынешнему буму искусственного интеллекта, также поддержал это письмо.
Хинтон был научным руководителем первой докторской работы соучредителя OpenAI и бывшего главного научного сотрудника Ильи Суцкевера, а позже присоединился к DNNResearch в 2013 году под руководством Хинтона. Позже Google приобрел компанию, которая является прародительницей Google DeepMind.
Хинтон открыто говорил о недостатках технологии искусственного интеллекта. В мае прошлого года он заявил New York Times, что сожалеет о деле своей жизни, предупреждая других о рисках, которые генеративный ИИ представляет для мира.
OpenAI
Подписавшие письмо, обеспокоенные опасностями систем искусственного интеллекта, призывают усилить защиту информаторов для людей, которые высказывают опасения по поводу безопасности. Они утверждают, что нынешние законы о нарушениях просто не позволяют этого сделать.
Для тех, кто не в курсе, Министерство труда приняло законы о защите осведомителей. Эти законы защищают сотрудников, сообщающих о краже заработной платы, дискриминации, небезопасных условиях труда и мошенничестве, а также о других проблемах. Работодатель не может наказать вас за то, что вы говорите об этих проблемах. Это наказание может включать увольнение, понижение в должности, отказ в повышении по службе, отказ в сверхурочной работе или даже сокращение часов.
Связано:
Сэм Альтман вернется в OpenAI после восстания персонала
Подписанты письма требуют, чтобы компании, занимающиеся искусственным интеллектом, соглашаетесь не заключать и не обеспечивать соблюдение каких-либо соглашений, запрещающих «унижение» или критику.
В мае 2024 года Vox сообщил, что OpenAI имеет чрезвычайно строгие ограничения. соглашение об увольнении бывших сотрудников. Это соглашение включает положения о неразглашении информации и неунижении достоинства, запрещающие им критиковать своего бывшего работодателя до конца своей жизни. Даже признание существования соглашения о неразглашении является нарушением соглашения.
