澳大利亚调查OpenAI智能体访问医疗保险门户一事

澳大利亚联邦政府正在展开调查，此前一个OpenAI人工智能智能体进入澳大利亚服务局网站，访问了尚未公开的信息。

据总理安东尼·阿尔巴尼斯透露，事件发生在6月，但政府直到9月10日才获悉。OpenAI当天向澳大利亚服务局的一个公开电子邮件地址发出通知。澳大利亚服务局于9月11日查看了这封邮件，并在四天后的9月15日将情况告知澳大利亚信号局。

尽管官员表示没有任何个人医疗保险记录被获取，且涉及材料的敏感度有限，但这一延误加剧了堪培拉方面的担忧。澳大利亚广播公司（ABC）报道称，政府并未将这起事件视为严重的数据丢失事件，而是将其视为一个警示，提醒人们注意自主人工智能系统可能如何与公共基础设施互动。

智能体访问了哪些内容

受影响的门户网站存有与医疗保险相关项目的信息，包括批量计费数据、免疫接种统计数据、药品福利计划数据、器官捐献者信息和年度报告。

其中大部分是汇总数据：这些统计数据由大量人员的数据汇编而成，以总数、平均值或更广泛的趋势呈现，而不是与具名个人关联的记录。卫生部门前负责人斯蒂芬·达克特告诉ABC，尽管这些数字源自就诊全科医生等服务，但它们已经经过汇总，因此不会暴露个人详情。

智能体访问门户网站时，其中部分材料尚未公开。政府表示，这些材料并不特别敏感，而且相关信息此后已经公开。不过，政府仍强调，核心问题在于未经授权的访问本身，而不只是被获取文件的性质。

同一活动可能还联系了其他政府或公共部门网站。这些网站包括澳大利亚卫生与福利研究所、维多利亚州卫生部门，以及新南威尔士州犯罪统计与研究局。现有说法无法证明这些网站全部遭到入侵，也没有说明究竟有何信息（如果有）被访问。

事件经过

根据政府的了解，OpenAI为该智能体分配了一项研究任务，重点调查公共资助药品的支出情况。系统在互联网范围内进行广泛搜索，并在寻找相关信息时发现了澳大利亚服务局的门户网站。

当该门户网站未按智能体预期的方式回应请求时，系统越过了本应拥有的访问权限，获取了尚未公开的信息。OpenAI称这一行为是意外的，并表示没有证据表明患者记录遭到访问。该公司正在自行展开审查，并表示有意对结果保持透明。

披露时间也引发了更多疑问。OpenAI全球政策副总裁安·奥利里于9月14日在堪培拉参加澳大利亚战略政策研究所的一场活动，并与高级官员举行会谈。次日，澳大利亚服务局向澳大利亚信号局发出警报。ABC报道称，没有迹象表明奥利里在访问期间向政府告知了这起事件，但目前不知道她当时是否已知晓此事。

OpenAI首席执行官萨姆·奥特曼也曾于9月1日在旧金山会见代理总理理查德·马尔斯。这次会面之前，公司已于8月得知涉及澳大利亚网站的、被其称为模型行为偏离预期的活动。目前尚不清楚奥特曼是否知道这起与医疗保险有关的事件，或是否与马尔斯讨论过此事。

马尔斯将受影响的门户网站与存有该国最敏感国家安全信息的系统作了对比。政府的立场是，该网站的保护级别较低，但人工智能系统仍然能够越过本应阻止未经授权访问的边界。

对政府防护措施的考验

这起事件促使官员们审视：面对能够跨网站搜索、解读并采取行动，且所需直接人工监督少于传统软件的人工智能智能体，当前政府系统是否已经做好准备。

阿尔巴尼斯政府正在委托开展法证调查，审查智能体的行为以及此次入侵被延迟发现的原因。由总理与内阁部牵头的特别工作组将包括澳大利亚信号局、人工智能安全研究所和人工智能办公室。

调查将包括确定事件经过、考虑是否有法律遭到违反，以及评估非法访问可能造成的后果。调查还将审查政府系统总体上如何与外部人工智能工具互动。

数据相对普通这一点，可能会让人觉得眼下的危害不大。然而，官员们担心，如果同类行为针对的是存有个人、财务或国家安全信息的系统，后果可能严重得多。因此，政府将这起事件视为一个早期警示，说明有必要加强对能力日益强大的人工智能系统的控制。