昨天中央电视台新闻联播以“王戟:冲锋不止的科研尖兵”为题报道了国防科技大学计算机学院王戟研究员的先进事迹。王戟老师少年成名、师出名门,师从中国工程院院士陈火旺教授。其实大不了我们几岁,但1993年我们考入军校大门读大学的时候,他就已经博士毕业当老师了。王老师总是笑容可掬,即使遭遇命运挫折时,仍然矢志科研高峰,虽九死而未悔。所以我说“以王老师为楷模,向王老师致敬”绝对是由心而发。读研究生时,王老师是我们《数理逻辑》课程的任课教师。数理逻辑说白了就是形式化验证推理的过程。我问了一下AI,它的总结如下:数理逻辑是数学与逻辑学的交叉学科,也叫符号逻辑,核心是用数学符号和数学方法研究推理、计算等逻辑问题。
核心研究内容:包含集合论、模型论、证明论、递归论四大基础领域,以及命题逻辑、谓词逻辑两大基础逻辑演算分支。
核心应用价值:是现代计算机技术的理论基础,为自动推理、程序验证、人工智能知识表示等提供核心理论支撑。
和传统逻辑的区别:用人工符号体系替代自然语言,彻底避免日常语言的歧义,依托严密的数学工具把逻辑研究拓展到数学基础、工程技术等领域。
说到程序验证,新闻联播说王戟老师是我国“高可信软件技术”概念的提出者和推动实践者。我的大学同学董教授主要研究方向就是高可信软件技术,跟王老师是一个团队的。一套计算机软件开发出来,怎么验证它是可靠的、安全的、没有漏洞等bug的?输入大量的用例和工况,然后根据输出和运行状况来判断软件是不是安全可靠。或者说软件上线试运行几个月,如果是稳定运行的,没有宕机,那么就认为这套软件是没有问题的。对于复杂的软件来说,测试几乎不可能覆盖全部用例和工况。就像自动驾驶汽车测试中的极端工况和极罕见的长尾案例一样,而这些可能隐藏着软件的致命漏洞。也就是说软件不能自证自己是安全可靠、没有漏洞的。刚刚和同事丹妮聊天的时候,正好聊到了一个话题,她就问“怎么证明自己没有精神病?”我一时语塞,一些人正是陷入这种“证明你妈是你妈”的困境,社会舆论中时不时会曝出“被精神病”的新闻。高可信软件技术就是验证软件程序安全可靠的理论、技术和工具方法的总称。AI对高可信软件技术的总结如下:高可信软件技术是保障软件在故障、攻击或误操作场景下仍能安全稳定运行的技术体系,核心面向航空航天、军工、轨道交通等安全攸关领域。
核心能力:通过程序分析、形式化验证、可信评估等手段,对软件代码做全维度校验,从根源排查潜在漏洞、逻辑缺陷,保障软件的可靠性与安全性。
覆盖内容:包含可信软件计算模型、高可信软件工程方法、软件可信性评测体系、领域专属可信技术等完整技术链条。
落地场景:已在神舟飞船对接、地铁无人驾驶、金融支付、核电控制、医疗机器人等关键场景实现规模化应用。
在场景落地中,很遗憾没有看到汽车自动驾驶领域,随着人工智能等智能化技术的发展,今天汽车行业也已经进入了“软件定义汽车”的智能网联汽车时代。
很多的汽车驾驶功能都是软件定义实现的,软件的可靠性如何验证?
现在的做法就是大数据量的算法训练和仿真训练,测试就是动辄多少公里的实车实路、实际环境地跑。
训练了多少数据量、实车跑了多少公里,然后就说我的自动驾驶多么牛了。
你看很多大佬,乘坐自家的自动驾驶汽车,在高速公路全程跑1000多公里,都不用接管,然后就号称自家的自动驾驶技术多牛了!
实际上,大家有没有发现,智能汽车时代,主机厂的“召回”反而更频繁了。
对于“召回”,很多人有一个重大的误解,以为还是像以前那样把车开回4S店,修补升级一下。
实际上,现在很多的“召回”,基本上就是在线的软件升级打补丁(OTA),根本不需要把车开到4S店去。
打补丁就是说明软件有漏洞,在测试的时候没有暴露的问题,在运行的时候暴露出来了。如果是一般的软件缺陷,还无关紧要。
如果是重大的软件安全漏洞,往往就是致命的,尤其是在现在的L2级辅助驾驶汽车中,在极端工况下辅助驾驶功能失效引发的车毁人亡的事件时有发生。
所以说,高可信软件技术应用于自动驾驶软件验证,可以大大提高软件的可靠性,大大提升自动驾驶、辅助驾驶汽车的安全,这会是大有可为的事情。
因为休公休假,本行自今天起至8月中旬会暂停更新。