在风险等级的低端,个人投机者操纵气象站谋取个人利益——这就是戴高乐机场的案例。更进一步:一组交易商可以协调对可再生能源产量的偏差预测,调整批发电价,让交易另一方承担损失。在远端,国家行为者或破坏者可以操纵一个或多个电台来启动预警系统,甚至在警报响起时让一个电台保持沉默。风险逐渐增大,从欺诈到备灾受损,再到国家安全问题。
只要存在操纵观测数据的经济(或其他)动机,对手就会寻找新的机会,而我们的任务就是保持领先。这里有三种方法。
1. 观看电台。 数据质量控制应包括站安全、异常检测和纠正以及人工监督。应持续监控气象站以防止篡改。清理天气记录的数据同质化方法也需要变得更快,以实时发现问题。随着代理人工智能系统使用这些数据来提供实时决策,这将变得越来越重要。最后,需要人工监督来标记有问题的数据并对结果进行建模。毕竟,是人类发现了戴高乐机场的操纵行为。
2. 保护数据,保障人工智能。 数据防御机制必须遍布整个人工智能管道。人工智能可解释性和对抗性鲁棒性工具可以帮助我们理解底层数据和人工智能模型输出,帮助我们识别与数据或模型相关的问题,并可能使我们对对抗性攻击更具弹性。
3. 确保整个链条的持续问责。 观测数据经过许多人手中:运行观测站的操作员、管理记录的国家气象服务机构以及将记录转化为预测的预报中心。他们中没有一个人可以单独保护数据完整性——每个人都保护自己的链路,任何异常情况都需要沿着整个链条进行沟通,从站操作员到根据预测采取行动的人员。
庆幸的是,戴高乐机场的情况被抓到了,但也应该给我们敲响警钟。随着观测数据在天气预报中的作用不断增强,我们需要适应不断变化的威胁。这意味着通过加强现有的监督和问责结构以及改善关键合作伙伴之间的协调来保护我们的数据和模型。
这篇专栏文章的作者是:
- Monique Kuglitsch — 弗劳恩霍夫海因里希·赫兹研究所创新经理兼联合国通过人工智能解决方案抵御自然灾害全球倡议主席
- Jesper Dramsch – 欧洲中期天气预报中心 (ECMWF) 的机器学习科学家,他们致力于 AIFS(人工智能预报系统)、ECMWF 的数据驱动天气预报模型
- Franz G. Kuglitsch — 波茨坦 GFZ 亥姆霍兹地球科学中心气候科学家兼国际大地测量与地球物理学联盟 (IUGG) 执行秘书
- 安德里亚·托雷蒂 (Andrea Toreti) — 欧盟委员会联合研究中心 (JRC) 的高级科学家,负责协调哥白尼应急管理服务处下的欧洲和全球干旱观测站
<
#天气数据遭到破坏的风险正在上升