AI骗局防不胜防。

这次事搞大了，骗子通过AI技术制造了一起“深度伪造”的诈骗案，涉案金额高达2亿港元。

诈骗团伙盯上刘德华，利用技术手段制作华仔举办2024年演唱会视频，并假借华仔粉丝之名义开设小红书帐号，通过仿冒的“华仔天地”官方网站向消费者收取演唱会门票订金，涉及2亿港元。

AI技术的进步，给了一些骗子可趁之机，利用AI技术的犯罪活动十分猖狂。一直以来人类对于AI快速发展带来的负面作用表示担忧，担忧并非来自于AI被 别有用心的人利用而从犯罪活动，主要是担心AI有了自己的思维，从而变得不可控起来。这会成为一种灾难。

科技发展是历史的车轮，滚滚向前，是大势所趋。科技发展代表着先进生的产力，人工智能的发展速度是惊人的，给人类的带来的影响是巨大，肯定会伴随着一些负面的东西产生，但不能投鼠忌器，因噎废食。水能栽舟，亦能覆舟。怎么合理的发展，让其更大限度的服务于人类，把危害减少到更小的范围内。人类不会因为频繁的交通事故而是抛弃一切交能工具，从而呆在家里。

人工智能技术带来的犯罪，就像互联网发展所带来的病毒一样，根本不会成为互联网发展的障碍，只能让互联网的发展更加健康，更加可控。更早的发现 技术创新对人类发展带来的负面作用，我们才能尽早规避，才能保证技术的发展沿着合理健康的轨道前行。

各类基于AI的新型攻击种类与手段不断出现，甚至出现泛滥，包括深度伪造、黑产大语言模型、恶意AI机器人、自动化攻击等，在全球造成了严重危害。《报告》认为，在积极拥抱大模型等人工智能技术之时，各界对其安全风险应保持警醒。

据湖北网警巡查执法此前公布的消息，AI技术新骗局诈骗成功率竟接近100%，其成功率之高、涉案金额之大、诈骗速度之快令人咋舌。

原本通过确认声音，人脸，视频等手段来防止上当，但随着人工智能技术的发展，也让人防不胜防，这提醒我们，必须要有足够防范意识，小心掉入AI犯罪的陷阱。