就在江天行见谷歌老板的当日,应若涵向芯片小组提交了关于华国人工智能安全防御措施的报告。
报告主要围绕以下几个方面:
第一,未来人工智能将逐步替代现有大部分工作,工业化进程将向全面自动化大幅迈进,必须考虑好各行业开放的进度,以免造成大规模失业,同时,利用人工智能创造出新的工作岗位。
第二,为预防西方大语言模型对华国市场造成的冲击,呼吁网信办成立相关部门,制定指导意见以及制度,加强管理。
第三,国产信创化全面提速,争取两年内完成80%以上的国产替代,包括各种软硬件以及底层架构,同时,强化双网建设,相关机构,研究所,必须熟练掌握物理网关的快速响应。
第四,全面加强华国所有数据中心的规范化管理,无论是国有还是民营。
第五,机密文档内容,国防军工立即开启防范人工智能入侵研究,给出对应方案,加强实操演练。
华国2020年是收获巨大的一年,星冠带来的影响虽然不小,但比起其他国家,情况理想得多,整个高层对华芯的贡献都看在眼里,忽然接到应若涵的报告,立刻引起高度重视。
芯片小组线上会议,应若涵对内容进行了补充说明:
“三位领导,华芯大语言模型对华国科技的影响力已经取得了不小的成果,但风险同时伴随而来,无形中,我们加剧了东西方人工智能的研发竞赛,cGpt正是这个竞赛带来的产物。”
郎廷问道,“若涵现在已经算是华国人工智能领域的专家了,谈谈看,虽然我理解你的担忧,但落到实处具体可能会造成哪些影响,我们需要整理出一套不同人能了解的计划,否则上面无法意识到问题的严重性。”
路阳自然也在会议中,应若涵的报告他还给了许多建议。
“郎部,我先说吧,就像蒸汽时代过渡到电器时代,电器时代升级到互联网时代,第一,每次升级都是不可逆的。第二,时间跨度会越来越短。第三,我们仍是发展中国家,产业结构还没到全面迎接人工智能的时候,但这股浪潮即将来袭,得做万全准备。第四,华国人工基数庞大,船大了掉头就难。以我们现在的能力,只能提出问题,解决方案还得靠国家。”
程春贤笑道,“你小子从来不都是这样吗?只负责搞事,不负责收拾。不过你们这个报告来得及时,现在整个华国都还沉浸在巨大胜利的喜悦中,泼一盆冷水对国家是有利的,但你的表述,危机感还不够,若涵,你来说。”
应若涵正色道,“那我就举个最简单的例子,cGpt继续训练升级,随时有可能诞生一个具有意识的通用型人工智能,它能轻易突破我们现在的所有网络防御,除非不使用网络。”
“就拿我们为泡菜国提供的导弹防御系统,在通用型人工智能面前,坚持不到3秒就会全部崩溃。”
这话一出,三位领导脸色大变,这在应若涵的报告中完全看不出来。
“你们可以把它理解即为一个存活在网络上的超级敌人,以人类设计出来的防火墙根本无法拦住它,只有传统的电磁信号不被其监控,以及物理断网手段才能阻止其入侵。”
郝顺富问道,“所以双网建设的真正目的就是防它?”
“是的,AI存在于网络,一旦侵入后,物理掐断,这样它就只能存在于局域网内部,虽然破坏力仍然存在,但却传不回去,仅靠部分算力,它的破坏力有限。”
程春贤面色已相当凝重,“你有多大把握,随时可能诞生,这个形容我们处理起来会很麻烦。”
“三位领导,当训练数据超过10万亿时,深度神经网络模拟的参数节点就会超过人类的神经元数量,什么时候诞生,诞生后是什么样的?我们只能以最坏的结果来做准备。”
路阳这时插话了,“又或者我们也开发出相同级别且可控的人工智能,这样可以在一定程度上预知对抗。”
应若涵明白这话是在为以后晓晓的出现做铺垫,“理论上,由人工智能开发出来的防御网络是可以阻止入侵的,孰强孰弱,判断的唯一标准是算力,所以,未来可能就是算力的竞争。”
郎延明白算力为何物,“所以,摩尔的GpU你们一块都没放到市场上就是在做准备。”
“是的,郎部,米国的英伟答已经开发出接近于摩尔mtt3000的GpU,同样的,他们一张也会流入华国。”
“这事我知道,台积电正是有了英伟答的订单才缓了口气,这样看来,一家摩尔根本就不够,产能太低。”
路阳说道,“真正能解决算力问题的,还是量子计算机,虽然通用型还很远,但是GpU、cpU、qpU三者结合是目前最佳的算力配置方案。”
郝顺富说道,“华芯在这方面,从不会让我们失望,不过单靠你们,还是不够,按若涵的说法,我们得重点布局,有机整合,同时,这又是个矛盾的对立,算力越强AI越强,一旦AI不可控,我们就是资敌,但又不能不做。”
郝顺富算是抓住了问题的核心,这也是路阳与应若涵两人都无法解决的问题。
所以国际上才有了这个比喻,大语言模型就是人类的潘多拉魔盒,一旦打开,谁也无法阻止,所有人都必须跟上,明知道存在不可控的风险,也要压上一切。
程春贤点头道,“你们的反馈很及时,必须早做准备,新一轮的科技竞赛不知不觉中已经开启了。”
“三位领导放心,半导体芯片如此艰难的事我们都克服了,这方面我们一定不会落后,只是这一次,我们的敌人是未知的,但未知也并非不能对付。”
三人明白过来路阳这话的意思,还有什么比路阳的能力更‘未知’吗?
路阳的这番话稍微让芯片小组的三位领导放下心来,再次庆幸当初的决定,如果没有他,也许现在华国连竞争的入场券都没有。
与人斗,其乐无穷;
与地斗,其乐无穷;
与天斗,其乐无穷!