AI智能体走热，将改变人们生活

2024年10月17日09:01 | 来源：新华社

新华社北京电（记者舒静宋晨 吴文诩）学会搭建使用AI智能体后，自媒体运营者小米感觉就像多招了一名24小时给自己打工的“文案设计师”，1分钟就能生成10个爆款标题，“省心多了”。

AI智能体（AI Agent），正成为新的人工智能热词。作为不少人看好的AI应用发展方向，AI智能体备受关注。

不久前，OpenAI列出实现通用人工智能的五级路线图：L1是聊天机器人；L2是推理者，即像人类一样能够解决问题的AI；L3是智能体，即不仅能思考，还可采取行动的AI系统；L4是创新者；L5是组织者。

业内人士表示，AI智能体在提供服务的过程中会收集大量数据，需要确保数据安全，防止隐私泄露。AI智能体虽然能提供建议，但并非都具有权威性。此外，AI智能体的自主性越强，越有可能在复杂或未预见的情境中作出不可预测或不当的决策。

周明认为，要从不同维度设立安全屏障：在研发环节，应将安全性作为核心设计原则，为研发人员提供相应培训，防止模型算法带有偏见；在使用环节，提升公众对技术应用边界、风险挑战的认知，增加反馈渠道。

智谱相关负责人表示，企业应制定严格的内部规范和操作流程，确保开发、测试、部署和使用都在可控范围内。推动行业标准的制定，为AI智能体的健康发展提供指导。同时，要建立责任追溯机制。

中国科学院自动化研究所副研究员张海峰也认为，政策制定应纳入多方利益相关者的意见，建立适当的AI伦理审查机制，对高风险项目进行独立审查，确保其符合伦理标准并对社会有益。

(责编：王震、陈键)