Более 1000 видных деятелей, включая Илона Маска и Стива Возняка, выразили обеспокоенность по поводу безудержного развития технологий искусственного интеллекта (ИИ). В ответ они объединили усилия, чтобы опубликовать открытое письмо, в котором выступает за шестимесячный перерыв в разработке систем ИИ, более совершенных, чем GPT-4 OpenAI, со ссылкой на серьезные угрозы, которые они представляют для общества и человечества.
Письмо из 600 слов, адресованное разработчикам ИИ, вызывает тревогу по поводу текущего положения дел в лабораториях ИИ, которые, похоже, неустанно стремятся создавать все более мощные цифровые умы. Эти разработки достигли стадии, когда даже их создатели не могут понять, предсказать или управлять ими, что еще больше увеличивает связанные с этим потенциальные риски.
Примечательно, что Маск изначально был соучредителем OpenAI, которая начинала как некоммерческая организация, занимающаяся обеспечением того, чтобы ИИ приносил пользу человечеству. Однако он ушел из совета директоров компании в 2018 году. Сегодня OpenAI работает как коммерческая организация, и критики утверждают, что с тех пор ее цели отошли от их первоначальной миссии. Похоже, что глубоко укоренившееся партнерство с Microsoft, включающее миллиарды долларов инвестиций, побудило OpenAI предпринять еще более рискованные инициативы.
Публично подвергая сомнению метаморфозы OpenAI, опасения Маска поддержала Mozilla, которая недавно представила свой новый стартап Mozilla.ai. Эта инициатива, направленная на решение некоторых из наиболее насущных проблем, связанных с развитием технологии искусственного интеллекта, направлена на создание автономной экосистемы искусственного интеллекта с открытым исходным кодом.
Согласно открытому письму, в предлагаемой шестимесячной остановке должны участвовать лаборатории искусственного интеллекта и независимые эксперты, работающие вместе над разработкой набора общих протоколов безопасности для усовершенствованного проектирования и разработки искусственного интеллекта. Эти протоколы подлежат строгому аудиту и контролю со стороны внешних независимых экспертов.
Между тем, в рамках отдельной разработки правительство Великобритании представило технический документ, в котором подчеркивается его «инновационный» подход к регулированию ИИ. Эта структура предлагает меры по укреплению безопасности и подотчетности, хотя и воздерживается от создания специального регулятора ИИ, как это сделал Европейский союз (ЕС).
Тим Райт, партнер и специалист по регулированию искусственного интеллекта в юридической фирме Fladgate, поделился своими мыслями о британском официальном документе, подчеркнув, что только течение времени покажет эффективность поотраслевого подхода. Тем не менее, эта позиция резко контрастирует со стратегией ЕС по внедрению подробного свода правил и режима ответственности под надзором единого регулятора ИИ.
На момент написания открытое письмо, призывающее к тайм-ауту для потенциально опасных разработок ИИ, собрало 1123 подписи. Растущая привлекательность платформ low-code и no-code таких как AppMaster в смягчении страха среди сторонников ИИ больше нельзя игнорировать. , так как он позволяет компаниям и частным лицам использовать преимущества технологии, не беспокоясь о неконтролируемых достижениях искусственного интеллекта.
