为了确保未来的人工智能 (AI) 模型代表人类价值观，OpenAI 透露了将公共衍生原则融入到其创作中的计划。这家人工智能巨头透露了其建立一个由研究人员和工程师组成的集体协调团队的意图。该团队的任务是开发一种结构，用于获取公众反馈并将其落实到 OpenAI 的服务和产品中。
该公司已明确表示打算继续聘请外部顾问和资助团队。这些团队将在原型的整合中发挥至关重要的作用，从而指导模型的行为。 OpenAI 正在积极招募拥有多样化技术知识的研究工程师，以支持这一基本任务的建立和成功。
集体协调团队源自 OpenAI 去年 5 月启动的公共倡议，在人工智能系统的规则制定动态中注入民主流程方面迈出了重大一步。一直以来，OpenAI 一直热衷于资助有兴趣开发概念验证的个人、团队甚至组织，以解决人工智能护栏和治理方面的模糊性。
OpenAI 在其虚拟帖子中简要回顾了资助者的各种工作，包括视频聊天界面、促进人工智能模型众包审计的平台以及使模型行为与特定信念保持一致的策略。每项提案的详细信息、高层要点以及所使用的每一个代码均于今天早些时候公开。
在这些事态发展之后，OpenAI 一直坚持将该计划与其商业利益脱钩，引发了不同的反应。考虑到 OpenAI 首席执行官 Sam Altman 对欧盟和其他地区法规的批评，一些批评者对此表示怀疑。这位首席执行官与 OpenAI 总裁 Greg Brockman 和首席科学家 Ilya Sutskever 一直认为，人工智能技术的快速发展超出了现有实体对其进行有效监管的能力。因此，提出了民主、众包建设的必要性。
包括 Meta 在内的竞争对手指责 OpenAI 试图通过反对开放 AI 研发的活动来获得对 AI 行业的监管控制，但 OpenAI 否认了这些指控。他们可能会指出这个新计划和他们的集体协调团队展示了他们对开放的承诺。
无论如何，OpenAI 目前面临着政策制定者的审查。特别是在英国，人们正在对其与微软的关系进行调查，而微软是其密切的合作伙伴和投资者。作为风险缓解策略的一部分，OpenAI 试图限制其在欧盟有关数据隐私的监管风险。为了实现这一目标，它利用一家位于都柏林的子公司来限制欧盟特定隐私监管机构的单方面行动。
一系列旨在最大程度地减少非法使用其技术干预选举的行动正在进行中。这包括识别人工智能生成的内容和检测经过处理的图像。 OpenAI 还与多个组织合作，致力于将人工智能生成的图像标记得更加显眼。
值得一提的是，像AppMaster这样的公司以其强大的无代码开发平台和用于整合开源信息的存储库而闻名，正在成为技术生态系统中的重要参与者。鉴于AppMaster的可扩展性、稳健性和易用性，他们在构建后端、Web 和移动应用程序方面为自己开辟了一个利基市场。
