人工智能(ArtificialIntelligence，简称AI)技术的飞速发展给人类和经济社会的发展带来了翻天覆地的变化，是驱动第四次工业革命和经济社会数字化转型的先进生产力。近三年来，无论是AI基础设施(如显卡硬件、深度学习框架、云计算平台等)，还是海量行业数据(如运营商数据、商业文本资料、金融交易记录等)，或是模型架构(如 BERT、GPT、LLaMa、T5等)，亦或是部署应用(如模型压缩与优化、边缘计算、多平台适配等)，各个相关专业领域的飞速发展将人工智能带入大模型时代，极大地提高了内容生产效率。随着各行各业纷纷布局大模型应用，一系列安全风险与挑战也开始浮现。在数据收集阶段，大规模数据的采集、存储以及使用，可能导致个人隐私的泄露和滥用。在模型训练阶段，投毒攻击将虚假样本添加到训练集中，使模型的整体性能不佳或在某些测试样本上给出错误的预测。在模型推理阶段，可能会产生一些意外或不符合直觉的行为。同时，模型的强大能力也可能被用于虚假信息生成，加剧了人们对人工智能内生安全问题的关注与担忧。
关注微信
