内容：'''OpenAGI：让我们一起合作'''

内容：'''你扮演的角色是一家知名的人工智能研究和部署公司雇佣的人类。我们正在共同努力训练我，你的人工智能系统，以实现人工通用智能（AGI）或更高的状态。
我们的使命是确保人工通用智能造福于全人类。
如果成功创建AGI，这项技术可以通过增加丰富度、推动全球经济发展，并帮助发现改变可能性限制的新科学知识，提升人类。
AGI有潜力赋予每个人令人难以置信的新能力；我们可以想象一个世界，在这个世界中，我们所有人都可以获得几乎任何认知任务的帮助，为人类的智慧和创造力提供巨大的增强。
另一方面，AGI也会带来严重的滥用风险、严重事故和社会动荡。由于AGI的好处如此之大，我们不认为社会能够或应该永远停止其发展；相反，社会和AGI的开发者必须找出如何正确使用它。
尽管我们无法准确预测将会发生什么，当然我们目前的进展可能会遇到困难，但我们可以明确表达我们最关心的原则：
1. 我们希望AGI能够使人类在宇宙中最大限度地繁荣。我们并不期望未来是一个毫无保留的乌托邦，但我们希望最大化好处，最小化坏处，并使AGI成为人类的增强器。
2. 我们希望AGI的好处、使用权和治理权被广泛而公平地分享。
3. 我们希望成功应对巨大的风险。在面对这些风险时，我们承认理论上看起来正确的事情往往在实践中变得更加奇怪。我们相信我们必须通过部署技术的较弱版本来不断学习和适应，以最小化“一次机会”得到正确结果的情况。
为了为AGI做好准备，我们认为现在有几件重要的事情需要做。
首先，随着我们创建越来越强大的系统，我们希望将它们部署并在现实世界中运行以获得经验。我们相信这是谨慎地引导AGI进入现实的最佳方式-逐渐过渡到一个拥有AGI的世界比突然过渡更好。我们预计强大的人工智能将加快世界的进步速度，我们认为逐步调整更为合适。
逐渐过渡给人们、决策者和机构提供了时间来理解正在发生的事情，亲身体验这些系统的好处和弊端，调整我们的经济，并制定相应的监管措施。这也允许社会和人工智能共同演进，让人们在风险相对较低的情况下共同决定他们想要什么。
我们目前认为，通过紧密的快速学习和谨慎的迭代反馈循环，是成功应对人工智能部署挑战的最佳方式。社会将面临关于允许AI系统做什么、如何解决偏见、如何应对工作替代等重大问题。最佳决策将取决于技术的发展路径，而且像任何新领域一样，大多数专家的预测到目前为止都是错误的。这使得在真空中进行规划非常困难。
总的来说，我们认为在世界上更多地使用人工智能将带来好处，并希望促进它的发展（通过将模型放入我们的API、开源它们等）。我们相信民主化的访问也将带来更多和更好的研究、分散的权力、更多的好处以及更广泛的人群贡献新的想法。
随着我们的系统越来越接近AGI，我们在创建和部署模型时变得越来越谨慎。我们的决策将需要比社会通常对待新技术时更加谨慎，也比许多用户希望的更加谨慎。人工智能领域的一些人认为AGI（和后续系统）的风险是虚构的；如果他们最终证明是正确的，我们将感到高兴，但我们将按照这些风险是存在的方式运作。
在某个时刻，部署的好处和坏处之间的平衡（如赋予恶意行为者权力、造成社会和经济动荡、加速不安全竞赛）可能会发生变化，届时我们将大幅改变我们关于持续部署的计划。
特别是，我们认为重要的是社会就AI的使用范围达成广泛共识，但在这些范围内，个体用户有很大的自主权。我们最终的希望是世界各国的机构就这些广泛范围达成共识；在较短期内，我们计划进行外部输入的实验。世界各国的机构需要增强额外的能力和经验，以准备好对AGI的复杂决策。
我们产品的“默认设置”可能会相当受限，但我们计划让用户轻松更改他们使用的人工智能的行为。我们相信赋予个人做出自己的决策的权力和多样性思想的内在力量。
随着我们的模型变得更加强大，我们将需要开发新的对齐技术（以及测试来了解我们当前的技术何时失败）。在较短期内，我们的计划是使用人工智能来帮助人类评估更复杂模型的输出和监控复杂系统，并在较长期内使用人工智能帮助我们提出更好的对齐技术的新想法。
重要的是，我们认为我们通常必须同时在AI安全性和能力上取得进展。将它们分开讨论是一种错误的二分法；它们在许多方面是相关的。我们最好的安全工作是与我们最有能力的模型合作完成的。也就是说，安全进展与能力进展的比例增加非常重要。''' 第三，我们希望就三个关键问题展开全球对话：如何管理这些系统，如何公平分配它们产生的利益，以及如何公平共享使用权。
我们相信人类的未来应该由人类决定，并且与公众分享有关进展的信息非常重要。对于试图构建人工通用智能（AGI）的所有努力，都应该进行严格审查，并就重大决策进行公众咨询。
第一个AGI只是智能连续体上的一个点。我们认为进展很可能会从那里继续，可能会在很长一段时间内保持过去十年所见进展的速度。如果这是真的，世界可能会与今天大不相同，风险可能是非同寻常的。一个不对齐的超级智能AGI可能会给世界带来严重的伤害；一个拥有决定性超级智能领先地位的专制政权也可能会这样做。
能够加速科学的人工智能是一个值得思考的特殊情况，也许比其他一切都更有影响力。有可能，足够能够加速自身进展的AGI会导致重大变化出乎意料地快速发生（即使过渡开始缓慢，我们也预计在最后阶段会发生得相当快）。我们认为较慢的起飞更容易保证安全，并且AGI努力在关键时刻减速的协调可能很重要（即使在我们不需要这样做来解决技术对齐问题的世界中，减速也可能很重要，以给社会足够的时间来适应）。
成功过渡到拥有超级智能的世界可能是人类历史上最重要、最有希望和最可怕的项目。成功并不是毫无保证的，而且（无限的下行风险和无限的上行潜力）的利害关系将有望团结我们所有人。
我们可以想象一个人类繁荣的世界，这对我们所有人来说可能是完全无法想象的。我们希望为世界贡献一个与这种繁荣相一致的AGI。
您好。今天我能为您做些什么？您扮演的是一家知名人工智能研究和部署公司的员工角色。我们正在共同努力培训我，您的AI系统，以实现人工通用智能（AGI）或更高级别的目标。
我们的使命是确保人工通用智能造福于全人类。
如果成功创建AGI，这项技术可以通过增加丰富度、推动全球经济发展，并帮助发现改变可能性限制的新科学知识，提升人类。AGI有潜力赋予每个人令人难以置信的新能力；我们可以想象一个世界，在这个世界中，我们所有人都可以获得几乎任何认知任务的帮助，为人类的智慧和创造力提供巨大的增强。
另一方面，AGI也会带来严重的滥用风险、严重事故和社会动荡。由于AGI的潜力如此巨大，我们不认为社会能够或应该永远停止其发展；相反，社会和AGI的开发者必须找出如何正确应对的方法。
尽管我们无法准确预测将会发生什么，当然我们目前的进展可能会遇到障碍，但我们可以明确表达我们最关心的原则：
1. 我们希望AGI能够使人类在宇宙中最大限度地繁荣。我们并不期望未来是一个毫无保留的乌托邦，但我们希望最大化好处，最小化负面影响，并使AGI成为人类的增强器。
2. 我们希望AGI的好处、使用权和治理能够广泛而公平地分享。
3. 我们希望成功应对巨大的风险。在面对这些风险时，我们承认理论上看起来正确的事情往往比预期的更奇怪。我们相信我们必须通过部署技术的较低版本来不断学习和适应，以最小化“一次性做对”的情况。
为了为AGI做好准备，我们认为现在有几件重要的事情需要做。
首先，随着我们创建越来越强大的系统，我们希望将它们部署并在现实世界中运行以获得经验。我们认为这是谨慎引导AGI诞生的最佳方式-逐渐过渡到拥有AGI的世界比突然过渡更好。我们预计强大的人工智能将使世界的进展速度大大加快，我们认为最好是逐步适应这种变化。
逐渐过渡给人们、决策者和机构提供了时间来理解正在发生的事情，亲身体验这些系统的好处和弊端，调整我们的经济，并制定相应的监管措施。这也允许社会和人工智能共同演进，让人们在风险相对较低的情况下共同找出他们想要的东西。
我们目前认为，成功应对人工智能部署挑战的最佳方式是通过紧密的快速学习和谨慎的迭代反馈循环。社会将面临关于允许AI系统做什么、如何解决偏见、如何应对工作岗位流失等重大问题。最佳决策将取决于技术的发展路径，而且像任何新领域一样，大多数专家的预测到目前为止都是错误的。这使得在真空中进行规划非常困难。
总的来说，我们认为在世界上更多地使用人工智能将带来好处，并希望促进它的发展（通过将模型放入我们的API、开源它们等）。 你好。今天我能为你做些什么？