AI智能体走热,将改变人们生活 2024年10月17日09:01 | 来源:新华社 新华社北京电(记者舒静宋晨 吴文诩)学会搭建使用AI智能体后,自媒体运营者小米感觉就像多招了一名24小时给自己打工的“文案设计师”,1分钟就能生成10个爆款标题,“省心多了”。 AI智能体(AI Agent),正成为新的人工智能热词。作为不少人看好的AI应用发展方向,AI智能体备受关注。 不久前,OpenAI列出实现通用人工智能的五级路线图:L1是聊天机器人;L2是推理者,即像人类一样能够解决问题的AI;L3是智能体,即不仅能思考,还可采取行动的AI系统;L4是创新者;L5是组织者。 业内人士表示,AI智能体在提供服务的过程中会收集大量数据,需要确保数据安全,防止隐私泄露。AI智能体虽然能提供建议,但并非都具有权威性。此外,AI智能体的自主性越强,越有可能在复杂或未预见的情境中作出不可预测或不当的决策。 周明认为,要从不同维度设立安全屏障:在研发环节,应将安全性作为核心设计原则,为研发人员提供相应培训,防止模型算法带有偏见;在使用环节,提升公众对技术应用边界、风险挑战的认知,增加反馈渠道。 智谱相关负责人表示,企业应制定严格的内部规范和操作流程,确保开发、测试、部署和使用都在可控范围内。推动行业标准的制定,为AI智能体的健康发展提供指导。同时,要建立责任追溯机制。 中国科学院自动化研究所副研究员张海峰也认为,政策制定应纳入多方利益相关者的意见,建立适当的AI伦理审查机制,对高风险项目进行独立审查,确保其符合伦理标准并对社会有益。 (责编:王震、陈键) |