“人工智能安全是‘下一个皇冠上的明珠’，黑客或是人类控制超级人工智能最后的希望。”6月26日，360集团创始人周鸿祎在首届“矩阵杯”网络安全大赛开幕式暨全球数智安全大会致辞环节中表示，人工智能将在未来十年内席卷所有行业、重塑所有产品。即使人工智能再牛，但由于它本身是由软件、网络、数据等构成，自身也会有漏洞。而且比常规系统更容易遭到攻击。

“现在，通过人工智能的系统对话可以对它进行PUA，通过跟它进行文字交流来注入攻击，去干些违背法律和道德的事情。”周鸿祎强调，“人工智能的安全是安全上的‘下一个皇冠上的明珠’”。

在业内人士看来，纵观全球范围内人工智能的未来发展，有强大动力的同时还面临着诸多争议，尤其在国家治理层面，可能将引发人工智能带来的安全问题，而这些问题不仅仅是网络安全和数据安全问题，也是终极安全问题。

“如果发展到超级人工智能，会不会脱离人类的控制？我很难回答。但看到在座各位，我有了信心，各位黑客可能会成为人类最后的希望。”周鸿祎表示。

据悉，此次“矩阵杯”网络安全大赛开设通用产品漏挖赛、国产软硬件安全检测赛、原创漏洞挖掘赛、人工智能（大模型）挑战赛、战队攻防对抗赛五大赛事，1000余支参赛队伍竞逐2000万奖金池。其中，特别开辟人工智能（大模型）赛道，通过实战化攻防对抗，在探索和研究利用人工智能技术做安全的同时，发掘大模型安全问题，为国家培养顶级实战人才。

南方+记者 叶丹