人与人工智能：一种新的关系
人与生成式人工智能的关系是一个核心议题，经常出现在以下学习路径的考试问题中： “微软和领英的生成式人工智能职业素养” 出现。核心信息很明确：它涉及协作，而不是完全委托。人类设定目标，定义意义和价值观，检查结果并承担责任。生成式人工智能通过提供草稿、变体和建议来加速这一过程。以人为本的视角对于负责任地利用人工智能的潜力并最小化风险至关重要。
来源: 自有呈现
人机关系基础
关于人与生成式人工智能关系的问题，经常用以下答案来评估为正确： “人类的输入和创造力将与人工智能协同工作，以取得有意义的进步” 这强调了人工智能作为增强人类能力的工具的作用，而不是替代。人工智能扩展了人类的能力，但它不能取代判断、责任和语境理解。这种以人为本的观点也体现在国际指导方针和法规中。
这 经合组织（OECD）制定了基本原则 ，即人工智能应具有创新性和可信赖性，同时尊重人权和民主价值观。该 NIST人工智能风险管理框架 提供了一个实用的框架，以系统地管理人工智能系统的风险。在欧洲， 人工智能法案（AI Act） 明确将人类监督作为一项安全原则，特别适用于高风险系统，以最小化对健康、安全和基本权利的风险（ 第14条 ）。这意味着，虽然生成式人工智能可以生成建议，但最终的决定权和责任在于人类。
生成式人工智能的工作原理和局限性
生成式模型经过训练，可以从示例中学习模式并生成合理的输出。该 GPT-4技术报告 将GPT-4描述为一个Transformer模型，它被“预先训练以预测下一个词元”。这个技术描述解释了一个核心局限性：该系统优化的是文本空间中的合理性，而不是现实世界中的真实性。
最著名的问题领域是 幻觉 ，即看似合理但实际上是错误陈述。该 GPT-4报告 明确提到了“幻觉倾向”。 “随机鹦鹉”论文 已经警告过大型语言模型的风险，包括偏见、不透明性和能力错觉。输出的流畅性很容易与可靠性混淆。生成式人工智能是一台出色的草稿机，但它不能取代人工检查其正确性和可接受性。
来源: arekskuza.com
人类智能和人工智能的交汇点构成了混合智能，这对未来的协作至关重要。
人机交互的心理学方面
一个常常被低估的方面是交互的心理学。一旦系统能够令人信服地进行表述，人们就倾向于不经审查地接受建议。这种现象被称为 自动化偏见 。研究表明，自动化决策辅助不仅可以减少错误，还可能产生新的错误模式，因为人们过分看重建议。例如，如果生成的代码“运行正常”，它可能会在未经审查的情况下进入生产系统。这时，关系就会从协作转变为委托。
为避免这种情况，加入显式的摩擦点很重要：复查、检查来源、进行测试和寻求第二意见。这并非不信任，而是标准流程。
将意图和理解归因于机器的倾向并非新鲜事。约瑟夫·魏森鲍姆（Joseph Weizenbaum）早在1966年就用 ELIZA程序 证明了这一点。该 “ELIZA效应” 描述了拟人化的倾向。现代系统比ELIZA更具说服力，因此更重要的是要意识到，一个没有自身体验的系统需要与人类同事不同的处理方式。
实际应用和监管
研究表明，生成式人工智能可以提高生产力。一项关于在Brynjolfsson、Li和Raymond进行的客户支持中引入生成式人工智能辅助系统的实地研究报告称，生产力有所提高，平均每小时解决的请求增加了 约14% 。该研究发表在《 季度经济学期刊 》上，证实了这些效应，尤其是在经验较少的员工中。人工智能可以在常规表述、标准情况和知识检索占主导的领域提升绩效。然而，在敏感案例中的最终质量取决于审查和责任的组织。
来源: solulab.com
生成式人工智能作为合作创作者：一个协作的新时代，技术可以扩展人类的创造力并实现新的表达形式。
在实践中，当生成式人工智能被用作受监督的草稿和思维伙伴时，协作效果最佳。明确区分“文本建议”和“最终批准”对于防止听起来不错的段落被视为事实审查至关重要。这很快就成为一个治理问题。框架，如 NIST AI RMF ，将风险管理描述为可重复的过程。在欧盟层面，欧盟委员会沟通了 AI法案的应用时间表 ，包括各项义务的截止日期（ 应用时间表 ）。
团队中成熟的关系意味着人工智能会生成变体、反驳意见、草稿或测试用例。人类定义目的，检查关键点，记录决策并承担责任。如果这些角色混淆，人工智能就会被低估或高估，这两种情况都是效率低下的。
结论和展望
人与生成式人工智能的关系应被理解为由人类负责的合作。人类提供目标、语境、价值观、审查和责任。生成式人工智能提供速度、变体、结构和想法，包括一个必须主动管理的 潜在错误 。如果这些角色定义清晰，人工智能就会成为助推器。如果角色不明确，人工智能就会成为权威。这条界限决定了是产生“有意义的进步”还是仅仅是快速的输出。