奇安信集团董事长齐向东：发展AI过程中，全行业要主动树立安全意识

中国青年报客户端乌镇11月20日电（中青报·中青网见习记者 赵丽梅 记者 张均斌）“（发展人工智能的）冲锋号角已经吹响了。”奇安信集团董事长齐向东在2024年世界互联网大会乌镇峰会现场向中青报·中青网记者表示，当下，整个社会发展人工智能（AI）的热情高涨。今年，乌镇峰会正式开启了“下一个十年”的新篇章，AI是本届乌镇峰会的“主角”。在他看来，未来5年至10年，用“AI改造一切”是大势所趋，AI将助力人类创造更美好的生活。

安全是发展的底线。齐向东指出，在AI赋能千行百业的过程中，人们都聚焦于如何发展AI，有时忽视了AI发展的另一面——安全风险。安全一旦出现问题，“一失万无”，即“一出事就什么都没了”的情况并不鲜见。齐向东说：“AI发展的‘战车’一旦动起来，就滚滚向前。它的动力太足了，能给我们带来的好处不言而喻。但安全问题也很重要。”

当前，“AI投毒”污染数据等“AI风险”已经出现，正在冲击AI安全防线。齐向东解释称，“数据投毒”是一种通过在训练数据中植入恶意样本或修改数据以欺骗机器学习模型的方法。黑客组织利用AI升级攻击手段，通过对抗样本、数据投毒、模型窃取等多种方式对AI算法进行攻击，使其产生错误的判断。由于算法黑箱和算法漏洞的存在，这些攻击往往难以检测和防范，处理这些问题的难度也不小。

“AI病”还需“AI治”。齐向东指出，在AI时代，网络安全面临全方位的挑战；以AI驱动安全，利用AI应对安全风险，将极大地提升处理问题的效率。齐向东建议，在发展AI的过程中，全行业要主动树立安全意识；全球各国都应关注并积极培育网络安全产业的蓬勃发展，加强网络安全人才的培养。