随着人工智能的不断发展，人工智能产业不断深化，中国人工智能企业数量也在不断上升，但在技术与应用领域，均存在着不同程度的挑战与风险。日前，iiMedia Research(艾媒咨询)发布了《2019中国人工智能发展风险预警白皮书》，主要从2019年人工智能发展现状概述、人工智能技术风险探析、人工智能应用领域风险探析、网民对人工智能风险认知调研等方面进行了研究分析。
近年来，人工智能大热，竞相为资本所追逐。2018年行业融资热度持续走高，iiMedia Research(艾媒咨询)数据显示，2018年中国人工智能领域共融资1311亿元，增长率超过100%。投资者看好人工智能行业的发展前景，资本将助力行业更好地发展。随着人工智能技术的进一步发展和落地，深度学习、数据挖掘、自动程序设计等领域也将在更多的应用场景中得到实现，人工智能技术产业化发展前景向好。
2017年中国国务院《新一代人工智能发展规划》中预计，到2020年人工智能总体技术和应用与世界先进水平同步，人工智能核心技术超过1500亿元;到2025年，人工智能基础理论实现重大突破，部分技术和应用达到世界领先水平，核心技术规模超过4000亿元。
但目前人工智能技术应用存在风险，计算机视觉方面存在人脸识别漏洞等问题;语音识别存在泄露风险，语音助手或成非法监听重灾区。
深度学习系统本身面临多种安全威胁
深度学习作为实现人工智能的一种形式，旨在更密切地模仿人类大脑，能让计算机具有人一样的智慧，其发展前景无限。深度学习的火热得益于各行各业丰富的大数据发展和计算机计算能力的提升，同时也要归功于过去经验。但机器学习本身也不是完美的，也不是解决世间任何机器学习问题的利器，其系统本身面临框架常见漏洞、模型安全漏洞、数据流处理风险等多种安全威胁，深度学习目前仍有大量工作需要研究。
人脸识别技术存在漏洞或将导致安防失效
如今，人脸识别技术应用的领域非常广泛，比如银行、金融、安防、通信等等，包括很多APP注册进行实名认证也需要进行人脸识别。这个技术看似增加了身份识别认证，保护了用户信息安全，实际上仍存在漏洞，犯罪分子通过日常照片、拍照、电脑合成、3D技术处理等手段所获取的人像有很大的可能性通过安防系统。
语音小助手的传感器可作为监听设备使用
语音小助手是现阶段受欢迎的人工智能应用之一，开发商更看重语音助手的便捷性和灵敏性，往往对语音助手的安全性有所忽略，这其中包括识别人耳听不到的声音和各智能助理相互间的语音识别。自今年年初以来，多个谷歌Nest安全摄像头用户报道有黑客侵入：黑客宣布朝鲜导弹来袭、恐吓要对一个家庭的孩子下手、将家用自动调温器调到90度、打开语音进行语言辱骂。这些事件令人担忧，但语音助手“悄无声息地妥协”更具破坏性。
人工智能在教育领域应用的风险
人工智能推动了教育的改革与创新，为智慧校园的建设提供了助力。目前在大学阶段的部分等级考试中已经应用了人脸识别技术，部分校外辅导机构也运用了人工智能为每一位学生提供定制化学习攻略。
然而，任何事物都有其两面性，人工智能的教育应用也不例外，它在给教育带来便利和服务的同时，也带来了风险和威胁。近年来，以搜索学习者信息尤其是隐私信息为主要目的的恶意程序，正在不断涌现并快速增长。此外，利用人工智能恶意攻击教育网络，入侵教育系统，获取或篡改考生信息或成绩;传递恶意信息等问题都有可能发生。
人工智能在军事领域的应用对国家安全造成威胁
人工智能正在国家安全领域占据一席之地，拥有着巨大潜能，算法上的突破、数据数量和质量的不断提升以及计算能力的增长为人工智能在军事领域的应用提供了无限的想象空间。
#p#分页标题#e#
但另一方面，为了获取战略竞争优势，各国人工智能在国防领域的竞争，也带来了安全方面的风险——包括为了获取竞争优势而忽视人工智能的伦理问题、人工智能技术扩散，以及过度强调人工智能的国家安全属性对正常的技术发展和商业所带来的威胁挑战。
人工智能对人类现存法律伦理的挑战
在技术高歌猛进的同时，人工智能不断模糊着物理世界和个人的界限，不断刷新人的认知和社会关系，延伸出复杂的伦理、法律和安全问题，比较典型的就是自动驾驶系统的责任认定。
对人工智能带来的影响进行伦理评估，以保障相关法律和政策的及时跟进，对人类来说仍是巨大挑战。
