1
关注中国自动化产业发展的先行者!
2024
2024中国自动化产业年会
2023年工业安全大会
OICT公益讲堂
当前位置:首页 >> 资讯 >> 智库报告

资讯频道

大模型技术白皮书(2023版)
  • 点击数:924     发布时间:2023-10-24 10:06:30
  • 分享到:
与大模型技术的突飞猛进形成鲜明对照的是,大模型仍面临诸多潜在的安全风险。大模型在应用的过程中,可能会产生与人类价值观不一致的输出,如歧视言论、辱骂、违背伦理道德的内容等,这种潜在的安全风险普遍存在于文本、图像、语音和视频等诸多应用场景中,并会随着模型的大规模部署带来日益严重的安全隐患,使得用户无法信赖人工智能系统做出的决策。更为重要的是,大模型较为脆弱,对安全风险的防范能力不足,容易受到指令攻击、提示注入和后门攻击等恶意攻击。尤其是在政治、军事、金融、医疗等关键的涉密应用领域,任何形式的恶意攻击都可能给国家社会的稳定以及人民的生命财产安全带来严重的后果。
关键词:
请登录以后访问所有功能!
登录  注册

热点新闻

推荐产品

x
  • 在线反馈
1.我有以下需求:



2.详细的需求:
姓名:
单位:
电话:
邮件: