AG·尊龙凯时 - 人生就是搏! AG·尊龙凯时 - 人生就是搏!
中新网北京3月3日电(记者 谢艺观)“AI‘幻觉’有利㊣于文学创作，但在AI安全方面，‘幻觉’确实会带来严重问题。”
全国政协委员、360集团✅创始人周鸿祎近日在北京接受中新网等媒体采访时谈及AI“幻觉”的两面性。
AI“幻觉”，是指人工智能系统(自然语言处理模型)生成的内容与真实数据不符，或偏离用户指令的现象。
“企业内部应用大模型时，如果该企业属于医疗、法律、金融、证券等㊣领域，或者用于生产制造等不容出错的地方，大模型一旦胡乱编造信息，就会带来严重后㊣果。”周鸿祎举例计算机视觉论文。
如何防止AI出现“幻觉”？周鸿㊣祎认为，企业应用相关技术时，要连接企业专有的知识库，去进行校正。“幻觉”问题，部分是能通过知识库解决的。
但他也指出，当大模型连接知识✅库，就会带来数据安全的问✅题。“智能体的安㊣全、数据的安全、客户✅端的安全，还有基座模型的安㊣全，构成一个新的人工智能安全新领域。解决方法就是‘以模制模’。”(完)
相关推荐