当地时间5月4日，美国白宫宣布了旨在遏制人工智能风险的首个新举措。报告显示美国国家科学基金会计划拨款1.4亿美元建立专门用于人工智能的新研究中心。政府还承诺发布政府机构的指导方针草案以确保对人工智能的使用保障“美国人民的权利和安全”。谷歌、微软、OpenAI等人工智能公司已同意在8月的网络安全会议上对其产品进行审查。
国内来看，4月11日国家互联网信息办公室就《生成式人工智能服务管理办法》公开征求意见。
(资料图片仅供参考)
海外的角度，近期着眼于人工智能监管的国家正在增加，如4月11日美国商务部下辖咨询机构国家电信与信息管理局开始就AI相关监管问题向社会各界征集意见，国土安全部部长表示该部门将成立一个人工智能特别工作组；欧洲议员同样呼吁制定更多的规则来对人工智能技术加以监管，并列出了几项期待的举措，包括在拟议的《人工智能法案》草案中提供一个框架，此外还提及应召开关注人工智能风险的全球峰会等等。
安信证券认为，认为AI监管主要体现在三个方面：
1)对数据集获取的安全合规性：由于AI模型需要大量数据的训练，在使用过程中也需要上传数据获取模型输出结果，因为针对企业内部在使用AI大模型时候上传数据的安全和保密性需求将会持续提升，利好数据安全和加密类企业的需求增长，如启明星辰、安恒信息、奇安信、深信服、安博通、信安世纪、三未信安、格尔软件等。
2)对人工智能模型的可解释性和透明性：目前的AI大模型均是基于深度学习搭建，其中的决策机制和过程尚不透明，模型的可解释性较差，这对于AI的应用构成了比较大的挑战。未来针对AI模型可解释性的研究也将会持续发展，利好AI算法类企业的突破。
3)对人工智能生成内容的识别和审核：由于AI模型本身是否具有歧视性和偏向性尚存在争议，因此对于人工智能生成内容的识别和审核需求将会提升，包括反生成式AI系统在内的产业将会受益，相关公司如美亚柏科等。
根据公开资料梳理，相关公司包括但不限于：
数据安全：电科网安、深信服、启明星辰等；
数据要素：易华录、浙数文化等；
信息安全：安恒信息，浩瀚深度，中新赛克，美亚柏科；
隐私计算：绿盟科技、星环科技。
关键词：
