2024年3月29日发(作者：奥迪派克峰实拍图片)
八工智能
I
A
卜
VIEW 2021
年第
1
属
探索与创新
人机交互下的自动驾驶车联网
一关键妄全技术
□文/
邢睿，苏洲
(西安交通大学网络空间安全学院，西安710000)
W
? ^
?
西安交通大学网络空间安全学院博士研究生在读。毕业于上
海大学，获得硕士学位。主要研究方向为车联网的安全与优
化。
西安交通大学网络空间安全学院院长，主要研究方向包括
网络通信安全、隐私保护，网络优化等。以第一/通讯作
者获丨 2020 2019
2018 2017 等国际会议最佳论
文奖。任丨
等国际知名期刊编委。
EEEICC、IEEEBigdataSE、IEEEComSoc
GCCTC、IEEECyberSciTech
EEEInternetofThingsJournal、IEEEOpen
JournaloftheComputerSociety、IETCommunications
摘要：依托人工智能技术，网联自动驾驶车辆为乘客提供强大的人机交互系统，乘客可以
通过该系统获取包括道路安全信息、娱乐应用等在内的多种信息。然而，自动驾驶车联网
的网络开放性使得上述人机交互过程容易成为攻击者的目标，本文介绍了自动驾驶车联网
中针对人机交互的攻击模式与相应解决方案，包括信息路由攻击、组件攻击和数据隐私攻
击下的防护方案，旨在提升网联自动驾驶车辆的人机交互系统在未来使用的安全性。
关键词：自动驾驶车联网；安全；人机交互
TN
929.5; 丁
P
393.0
文献标识码
：A
文章编号
：2096-5036(2021)01-0098-09
DOI
： 10.16453/
j
.
cnki
.
lSSN
2096-5036.2021.01.010
中图分类号：
98
人机交互下的自动驾驶车联网关键安全技术
0引言
随着汽车和信息产业的飞速发展，传统汽车已经从简单的通勤工具转变为功能全
面、智能化、信息丰富的计算移动终端。该智能移动终端被称为具有感知（即，感测道
路环境）、行为计划、自主控制和系统管理功能的网联自动驾驶车辆U1。人工智能技术
可以有效地支持网联自动驾驶车辆的自动驾驶功能，深度学习和强化学习是人工智能技
术在自动驾驶中的两个重要子领域
。一
方面，深度学习可以使自主控制系统具有感知能
力，从中系统可以智能地识别复杂的环境；另一方面，具有强大决策能力的强化学习可
以帮助自主控制系统进行预测、行动计划和行为管理操作。深度学习和强化学习的组合
有望成为实现自动驾驶中替代人类驾驶员的功能的有前途的方法[21。
1现状与问题
人工智能技术与车联网的深度融合一方面能更好地辅助网联自动驾驶车辆的安全、
高效的行驶，另一方面有助于提升网联自动驾驶车辆中的乘客的乘坐体验。具体而言，
通过人机交互，乘客可以方便地在车内获取多类信息。例如，道路实时信息、娱乐应用、
高清视频等。目前，车联网正处于一个高速发展的阶段，作为未来车联网的发展趋势，
融合了自动驾驶技术与无线通信技术的自动驾驶车联网存在着巨大的潜力，同时也面临
着巨大的挑战。
1.1自动驾驶车联网
国际上最大的汽车工程学术组织，机动车工程师学会
（Society
of
Automotive
Engineers
，
SAE
)将车辆按照自动化的程度分为了六个等级％从等级0至等级5，
分别命名为无自动化、驾驶员辅助、部分自动化、有条件的自动化、高度自动化，以及
完全自动化。等级0的无自动化的车辆即当前路上行驶的大多数人工驾驶车辆，对于
等级1的驾驶员辅助的车辆，驾驶员仍然具有对车辆的总体控制权，车辆可以在驾驶员
授权下执行自动巡航和电路稳定性控制等功能。在紧急情况下，车辆可以为驾驶员提供
帮助，例如，动态制动、转向和加速/减速操作。在等级1中，车辆中没有控制系统可
同时支持驾驶员的手离开方向盘和脚离开制动踏板，但是等级2的部分自动化车辆可
以支持该操作。等级2的车辆与等级1的车辆的区别在于，在等级2的车辆中允许两
个以上的自动控制系统同时运行。当前，许多车型都具有等级1的功能，少部分品牌（如
通用汽车、奔驰等）部分高端车型具有等级2的功能。前三个等级的车辆仍然是以人
工驾驶为主导，即驾驶员必须时刻注意道路情况。从等级3开始，驾驶员就无需一直
99
八工智能I
A
卜
V
旧
W 2021
年第
1
莫
探索与创新
监控路况，即车辆中的自主控制系统可以执行驾驶任务的所有方面。但是在等级3中，
在某些特定情况下，控制系统无法处理，驾驶员应响应系统的干预请求并再次控制车辆。
对比该情况，在等级4的车辆中，即使驾驶员没有响应系统的干预请求，自主控制系统
也将继续执行驾驶功能。等级5是自动驾驶的最终目标，也是当前业界正在攻破的难关。
在该等级中，车辆完全自主化，乘客只需要输入目的地，不再需要任何额外操作就能够
安全、高效地被运送到正确地点。
自动驾驶车联网是自动驾驶技术在车联网中的应用，通过将位置、车辆数据等交
通信息输入到自动驾驶决策与控制系统，辅助车辆的自动驾驶。随着人工智能、5
G
/6
G
通信、大数据等技术的日益成熟，使得自动驾驶技术与通信、互联网深度融合，网联自
动驾驶车辆之间的交互，网联自动驾驶车辆与云端服务器、路侧单元等的交互越来越方
便，能够进一步改善日益严重的交通问题。
1.2自动驾驶车联网中基于视觉的人机交互关键技术
未来，乘客可以通过装载在车辆中的人机交互系统与网联自动驾驶车辆中的车载
单元交互，高效地获取想要的信息。车载单元是具有无线通信、存储、计算功能的组件，
它能够支持车辆与其他车辆，以及云服务器进行无线通信并下载、存储信息，将特定的
信息提供给车辆中的乘客。与人类驾驶员相比，计算机具有更高的专注力和耐用性，人
机交互能够实现快速响应和复杂的自然语义理解。乘客可以通过向人机交互系统发出指
令，如说出“寻找一家附近评分高并且等位时间不超过三十分钟的日料店”，车载单元
就可以快速地通过无线通信和计算功能筛选出合适的地点，并提供导航信息。为安全、
高效地完成乘客发出的指令，自动驾驶控制系统需要实时采集道路信息并及时响应。人
T
.智能技术可以很好地用于计算机视觉中帮助车辆的数据感知与收集。对于高度自动化
的车辆，人工智能技术对于实现安全和流畅的驾驶体验至关重要。车辆的高度自主控制
要求计算机具有高度智能，以取代人脑在识别、反应和处理复杂信息方面的功能。网联
自动驾驶车辆主要涉及以下两种与基于视觉的人工智能技术相关的自动驾驶功能。
一是感知：利用计算机视觉技术，深度学习
（Deep
Learning
,
DL
)算法可以帮
助装载在车辆上的传感器感知周围环境。例如，识别信号灯、交通标志等。由于这些
对象始终是静态的，因此
DL
模型可以从输入数据中学习特征。因此，它们可以达到
甚至超过人类识别信息的水平。卷枳神经网络
（Convolutional
Neural
Networks
,
CNN
)和深层神经网络
（Deep
Neural
Network
,
DNN
)是两种典型的
DL
算法。
CNN
是一种具有深度架构的前馈神经网络，其中包括卷枳计算。
CNN
是通过模仿生
物的视觉感知而建立的。
DNN
是具有多个隐藏层（超过5?7层）的人工神经网络。
DNN
可以在全连接前馈神经网络中使用，这意味着它可以在大多数分类情况下表现良
100
?
人机交互下的自动驾驶车联网关键安全技术
好。这些
DL
算法已在自动驾驶的车道检测和车辆识别中成功实现。
二是定位：与感知功能相同，利用计算机视觉技术，在
CNN
/
DNN
的支持下，可
以高精度、高效地识别某些局部动态对象，例如，车辆的实时位置和实时道路地图等，
感知和定位功能具有较初等级的智能程度141。此外，网联自动驾驶车辆的安全驾驶需要
控制系统对环境的快速反应。因此，应确保这两个功能的信息收集效率。
此外，在利用基于计算机视觉技术的人工智能算法高效收集环境数据后，规划功能
被用来计划下一个动作和行为，以避免意外情况并保证安全。对于系统而言，整合以前
的信息以预测未来的动态情况至关重要。为此，可以应用递归神经网络。规划功能具有
较高等级的智能程度，它可以有效地解决复杂环境中的动态预测问题。系统管理功能被
用来监视和调节整个系统的运行。深度学习和强化学习
（Reinforcement
Learning
,
RL
)模型的组合有望成为一种可以完全取代人工控制的有前途的方法。深度
Q
网络结
合了
DL
的感知功能和
RL
的决策功能，已在自动驾驶中成功实现。系统管理功能的智
能性可与普通成年人的智慧匹配，这种功能既需要效率和集成，也需要前瞻性。
然而，由于车联网的网络开放性，在这种人机交互的过程中，攻击者可以很容易地
实施各类攻击影响人机交互的准确性与高效性。自动驾驶车联网中，针对人机交互的安
全威胁可分为三种类型：针对信息路由的攻击，针对自动驾驶组件的攻击，以及针对数
据隐私的攻击。
针对网联自动驾驶车辆的攻击可以视为针对信息物理系统（
Cyber-Physical
Systems
,
CPS
)组件的攻击。
CPS
的易受攻击的基本要素主要包括五种类型：传感器、
计算、存储、执行器和通信。针对自动驾驶组件的攻击与
CPS
组件的传感器和执行器
有关，它针对的是
CPS
组件的物理部分。针对信息路由的攻击与
CPS
组件的通信功能
有关，它针对的是
CPS
组件的网络部分。针对数据隐私的攻击与
CPS
组件的计算和存
储功能有关，它针对的也是
CPS
组件的网络部分。这些攻击包括计算过程中的信息或
标识泄漏，存储过程中的数据修改等。因此，如何解决上述各类攻击以保证自动驾驶车
联网中人机交互的安全是当前的一大关键问题。
2自动驾驶车联网中人机交互的安全关键技术
2.1针对人机交互安全的信息路由攻击解决方案
自动驾驶车联网中存在异构通信链路，它们对于网联自动驾驶车辆及时获取道路信
息以实现安全驾驶至关重要。车中的乘客可通过车载人机交互系统获取所需的信息，车
辆可通过与其他车辆的无线通信帮助车中的乘客获取信息。然而，恶意的网联自动驾驶
车辆在与其他车辆通信时，可能会执行各种攻击，以防止它们获取真实信息。我们将介
101
?
八工智能I
AI-VIEW 2021
年第
1
期
探索与创新
图1自动驾驶车联网中的几种典型信息路由攻击：（
a
)数据包复制攻击（
b
)女巫攻击（
c
)黑洞攻击（
d
)急
速攻击
绍一些针对人机交互安全的典型信息路由攻击。
数据包复制攻击：如图1(
a
)所示，恶意的网联自动驾驶车辆可能会复制大量包含
无用信息（例如广告）的数据包，然后将这些数据包发送到相邻的车辆。由于通信信道
被无用的恶意信息所占据，因此在这种情况下，如果乘客向车辆发出了某条信息下载指
令，由于车辆的网络信道被恶意占用，车辆无法从其他车辆或云服务器处下载信息，这
将导致乘客无法接收所需的信息。
女巫攻击：如图1(
b
)所示，位于特定位置的单个恶意节点声称它具有多个身份和
多个位置。在这种条件下，女巫攻击者可以在网络中不同位置以不同的身份向目标车辆
中的乘客发起持续的分布式攻击，由于无法对攻击者进行溯源，这将导致该车辆的人机
交互系统瘫痪。女巫攻击会导致对于攻击者的检测难度大大提升，它会降低诸如分布式
存储、多路径路由，以及拓扑维护等路由方案的容错能力。女巫攻击将威胁到基于位置
信息的路由算法。
黑洞攻击：如图1(
c
)所示，恶意的网联自动驾驶车辆可能会通过丢弃接收到的数
据包而不是将其转发到下一个节点实施黑洞攻击。通过执行黑洞攻击，这种丢弃行为将
影响数据包的传输率。如果攻击者对某个目标车辆持续进行黑洞攻击，目标车辆中的乘
102
人机交互下的自动驾驶车联网关键安全技术
客将重复发送大量的请求但无法获得响应，这将大大影响基于人机交互的用户体验。
急速攻击：如图1(
d
)所示，这种攻击是拒绝服务攻击的新版本，可以直接影响路
由协议的操作。在这种攻击中，源车辆正在将数据包转发到目标车辆，而驶来的车辆（即
攻击者）将接收到此数据包并充当中间节点，然后将伪数据包转发到目标车辆。这将导
致目标车辆中的乘客收到错误的信息，从而影响用户通过人机交互获得的用户体验质量。
当攻击者靠近源节点或目标节点时，可以轻松实施此攻击。
考虑到在自动驾驶车联网中，信息频繁在陌生车辆之间传输，因此信息路由的过程
很容易成为攻击者的目标，入侵检测系统
（Intrusion
Detection
System
，
IDS
)是解
决上述攻击的一种适当方法。
IDS
是一种网络安全设备，可在检测到可疑传输时实时监
视网络传输，发出警报或采取主动措施。自动驾驶车联网中的入侵检测方法主要分为以
下三种——基于签名的
IDS
、基于异常的
IDS
,以及基于规范的
IDS
151。
基于签名的检测：也称为基于知识的检测。这种方法利用了从以前的入侵检测中收
集的知识，因此可以准确地检测数据库中的已知攻击。但是，对于未知攻击或已知攻击
的变体，例如零日攻击、逃避攻击等，这种方法无能为力。而且，不断更新数据库的攻
击模式将花费大量时间和精力。随着网络中车辆的数量越来越大，基于签名的检测无法
解决日益增长的安全性问题。
基于异常的检测：也称为基于行为的检测。
IDS
将观察和分析网络中的节点行为，
并将观察到的行为与正常行为进行比较。异常行为会导致其与正常行为的偏差，从而触
发
IDS
警报。与基于签名的检测相比，这种检测可以检测未知和无法预料的攻击。但是，
对于基于异常的检测，由于观察到的行为会发生变化，某些具有特殊性的正常行为会被
误认为是异常行为。因此，检测的准确性会受到影响，并且检测延迟会导致错误时间触
发警报，从而可能导致较高的虚警率。
基于规范的检测：这种方法也称为有状态协议的分析。该检测方法基于手动指定的
程序行为准则来检测攻击，它被认为是替代上述两种方法的一种有前途的检测方法。基
于规范的检测结合了基于签名的检测和基于异常的检测的优点。它可以高精度地检测已
知攻击，同时还具有检测新攻击模式的能力。但是，由于这种方法高度依赖于应用程序
和用户活动，因此为通用设备指定相应的规则始终是挑战。此外，如果某些攻击符合程
序的规范，则可以避免检测。
2.2针对人机交互安全的自动驾驶组件攻击解决方案
在1.2节中，我们提到网联自动驾驶车辆可以分析乘客发出的指令中的复杂语义，
并为乘客提供合适的导航路线，将乘客快速、准确地送往他想去的目的地。这个过程需
要车辆中装载的导航系统（如
GPS
系统），各类传感器（如
LIDAR
、
RADAR
等），
103
八工智能I
A
卜
VIEW 2021
年第
11I
探索与创新
以及各种摄像头的高效运行。某些针对这些自动驾驶组件的攻击能够威胁车辆的安全行
驶，从而影响车辆完成用户指令的准确性与时效性，降低用户从人机交互系统中获得的
用户体验。严重时甚至会影响到乘客的生命安全。下面，我们总结某些容易实施，且对
网联自动驾驶车辆安全威胁大的针对自动驾驶组件的攻击方式，以及相应的解决方案。
对自动驾驶组件的第一个威胁是欺骗，例如，
GPS
欺骗和
LIDAR
欺骗。具体而言，
在
GPS
欺骗中，攻击者将向目标网联自动驾驶车辆发送伪造的
GPS
信号，该信号类似
于真实的
GPS
信号，这会将车辆误导至错误的路线。
LIDAR
传感器用来检测车辆行驶
时周围的障碍物，
LIDAR
信号是未经编码或加密的脉冲。攻击者可以伪造与真实信号
同步的激光雷达信号假脉冲。因此，车辆可能会检测到伪造的障碍物以绕行，甚至无法
检测到真正的障碍物。上述欺骗攻击很难通过自动驾驶系统检测出来，因为只有当它
远离目的地或遇到未被检测到的障碍物时，车辆才会意识到遭受到了欺骗攻击。文献i61
提供了一个基于知识的系统来推断针对自动驾驶组件（例如，针对
RADAR
、
LIDAR
、
相机、
GPS
的欺骗、干扰和篡改）的攻击。通过规划上述动态攻击的最佳缓解措施，
可以降低车辆的驾驶风险。文献171利用众包检测
GPS
欺骗攻击，其中道路基础设施被
利用来连续分析内容，并且监视和检测
GPS
欺骗攻击。
自主驾驶组件的第二个威胁是干扰，例如，
GPS
干扰、
LIDAR
干扰，以及
RADAR
干扰。攻击者可以通过干扰
GPS
、
RADAR
的无线信道或
LIDAR
的操作传感
器实施干扰攻击。以这种方式，使得车辆不能正常接收道路信息。干扰攻击实现的代价
很低，实施简单的
GPS
干扰攻击仅需花费20美元。缓解干扰攻击的方法包括部署抗干
扰系统或利用其他传感器获取相同的数据。文献181提出了一种抗干扰机制，其中，对
基于强化学习的功率控制和基于风险评估的信道选择进行了建模，以解决干扰攻击。通
过感知动作周期，可以预测合法车辆与干扰信号之间的相互作用。
威胁网联自动驾驶车辆安全驾驶的第三种攻击是致盲，例如摄像机致盲攻击。这
样的攻击只需要在路边部署几个红外
LED
或者激光灯就可以将车辆的摄像头致盲。此
类攻击实施起来非常容易，其应对措施也不难实施。通过在相机上粘贴近红外截止滤光
镜或利用光致变色镜片可以解决上述针对摄像头的致盲攻击。
2.3针对人机交互安全的数据隐私攻击解决方案
乘客通过人机交互系统请求信息往往需要提供隐私信息，包括乘客的身份信息、
兴趣等。在该车辆向其他车辆请求相关信息的时候，乘客的隐私信息也会在不同的车辆
之间传递，导致乘客的隐私信息的泄露。在传统车联网中，可以通过在司机间建立社交
关系使得隐私信息只在朋友之间传递。但是在自动驾驶车联网中，乘客不直接参与和其
他车辆的通信，因此在不同的车辆之间建立社交关系是不现实的。因此，攻击者可以轻
104
人机交互下的自动驾驶车联网关键安全技术
图2车载区块链简介
易地攻击或非法使用乘客的隐私信息。因此，在自动驾驶车辆内的人机交互过程需要一
种隐私保护的方法保护乘客的隐私信息。
在陌生的网联自动驾驶车辆之间建立基于隐私保护的通信模型存在两个问题。第
一，为了保护乘客的敏感信息，所有内容都应以匿名方式转发。但是，信息的匿名性将
降低转发内容的可靠性。第二，针对2.1节提到的信息路由，如果车辆可能会因为害怕
隐私泄露而不愿意转发内容。车戟区块链是一种实现陌生的网联自动驾驶车辆之间安全
交互的合适技术，它是在移动和去中心化网络中使用的区块链独特的应用模式之一 [9]。
如图2所示，车与车之间的交互在车载区块链中被近似为区块链的交易过程，每一个有
效合法的交互过程会被加密为一个区块，一个区块包含区块头与区块体，前者记录了前
一个区块的哈希值，后者记录了交互的数据。所有区块连成一条链，并且区块链会将当
前更新的区块链账本分发给区块链参与者。基于下列特征，车载区块链可以有效保护乘
客的隐私。
受限的访问权限：车载区块链可以轻松配置每个合法车辆的访问权限和访问范围。
这样，如果恶意车辆试图窃取信息的隐私，则区块链可以停止其访问权限以防止相应的
攻击。
防篡改：车辆间的每次内容交互将被编码为区块链中的交易集，然后将交易集划分
为多个块并记录到分布式分类账中。这些区块链接到同一条链。在区块链中，每一个区
块链将与其上一个区块和下一个区块耦合。这样，攻击者将无法修改任何块的数据，因
为修改块中的数据将影响所有块的哈希值。
105
八工智能I n
复制和分发的高度透明性：车辆区块链中的每个参与者都会收到分布式分类账的
副本。具有相同访问权限的每个参与者将获得分布式分类账的相同副本，从而增加了信
息的透明度。
安全加密：分布式分类账的大量复制不会导致信息泄漏，因为共享的分布式分类
账是严格加密的。分布式分类账的详细信息对于其他非区块链参与者而言是不可读的。
此外，考虑到自动驾驶车联网中大量的通信需求，以及网联自动驾驶车辆节点计算能力
的局限性，如果将网络中的每一次交互区块都实时聚合在一起，将大大影响网络的数据
聚合效率。人工智能技术可以有效应对上述问题。利用机器学习中的联邦学习方法，车
辆节点只需根据下载的全局模型发送从本地数据训练得到的本地模型参数更新，并生成
本地区块。将本地区块发送给附近的边缘计算节点（路侧单元、小基站等），边缘计算
节点将所有车辆更新的本地模型参数进行聚合得到全局模型，并生成全局区块。然后，
再将网络中的全局区块聚合在一起，并发送给网联自动驾驶车辆进行下一轮更新直到训
练模型达到一定精确度。这样，可以提高区块链的本地共享与全局聚合效率，有效应对
自动驾驶车联网中的海最化交互数据，缓解网络中节点的算力。
3结束语
移动通信技术与人工智能技术的高速发展使得自动驾驶车联网的广泛部署逐渐成
为现实。依靠人工智能技术与无线通信技术的深度融合，网联自动驾驶车辆在为乘客提
供强大的人机交互系统的同时，也成为了各类攻击者的潜在目标。解决了针对人机交互
系统安全的各类攻击，能够提升乘客的用户体验质量，并保证乘客的生命安全。这也成
为了网联自动驾驶车辆发展不可忽视的一大关键问题。
参考文献
[1] Talebpour A,Mahmassani H S. Influence of connected and autonomous vehicles on traffic flow stability and throughputLJ].
Transportation Research Part C:Emerging Technologies,2016,71:143-163.
[2] Grigorescu a T,et al. A survey of deep learning techniques for autonomous driving[J]. Journal of Robotic
Systems,2020,37(3):362-386.
[3] Taha A E,AbuAli N. Route planning considerations for autonomous vehiclesQ]. IEEE Communications Magazine,2018,
56(10):78-84.
[4] Sallab A,Abdou M,Perot E,et al. Deep Reinforcement Learning framework for Autonomous Driving[J]. Electronic Imaging,
2017,2017(19):70-76.
[5] Liao H J,Lin C H R,Lin Y C,et al. Intrusion detection system: A comprehensive review[J]. Journal of Network and Computer
Applications,2013,36(l):16-24.
[6] Le A,Maple C. A simplified approach for dynamic security risk management in connected and autonomous vehiclesQ]. 2019.
[7] Jansen K,Schafer M,Moser D,et al. Crowd-GPS-Sec:Leveraging crowdsourcing to detect and localize GPS spoofing
attacks[C]//2018 IEEE Symposium on Security and Privacy(SP). IEEE,2018:1018-1031.
[8] Feng S. Cognitive risk control for anti-jamming V2V communications in autonomous vehicle networks[J]. IEEE
Transactions on Vehicular Technology,2019,68(10):9920-9934.
在线阅读(节选)
[9] Li J,Cheng L,et al. Creditcoin:A privacy-preserving blockchain-based incentive announcement network for
communications of smart vehicles^]. IEEE Transactions on Intelligent Transportation Systems,2018,19(7):2204-2220.
106
更多推荐
车辆,驾驶,自动,攻击,信息,检测,网联
发布评论