据《连线》杂志获悉，英国政府的一家监督机构正考虑对英国内政部使用生成式人工智能工具处理庇护申请一事展开调查。这一潜在调查的启动，正值议员与研究人员公开质疑这些工具的准确性以及政府对其使用情况的保密做法。
负责监督英国内政部在边境、移民和海关管理方面工作的独立首席边境与移民监察官（ICIBI），已要求数字权利非营利组织开放权利小组（ORG）就相关工具提供更多信息披露，以便其拟定明年将开展的审查议题。活动人士萨拉·阿尔谢里夫向《连线》杂志表示。ORG的调查结果源自一项为期六个月的专项研究，其间共提出了11项议会质询、发送了两封部长级函件，并提交了10份公共记录申请，试图从内政部获取相关信息；而内政部迄今一直对这些工具的相关细节予以保密。
ICIBI向《连线》杂志表示，在公布年度检查重点之前，无法确认哪些议题正在积极审议中，但其表示已注意到有关人工智能工具使用的担忧，并指出去年的调查结果显示，该工具的“有效性和可靠性参差不齐”。
“庇护决定由受过专业培训的案件经办人员作出，人工智能工具仅用于辅助查阅面谈记录和政策信息。这些工具不能单独使用，也不会对申请作出最终裁定，”英国内政部发言人在一封电子邮件中向《连线》杂志表示。“我们始终结合既有的质量保证流程，对这些工具的运行表现进行定期监测，并已承诺在工具推广过程中发布更新的评估报告。”
根据ORG获得的文件显示，英国内政部使用基于OpenAI 2023年GPT-4大型语言模型和Microsoft Foundry构建的庇护案件摘要工具（ACS）与庇护政策检索工具（APS），对庇护申请人的面谈记录及其原籍国相关信息进行摘要。作为移民与执法机构，该部门自2024年底开始试点这些工具，旨在帮助工党政府清理约10万件积压的庇护案件，并有效应对英国每年收到的数万份新申请。尽管该部门已取得显著进展，截至今年6月，等待首次裁决的人数已减半，但针对裁决的上诉数量却大幅攀升。
研究人员对人工智能工具的准确性表示担忧——尤其是在涉及如此高风险的决策时，例如是否将某人遣返回其担心遭受迫害的国家。ORG发现，由ACS生成的摘要中被认定为不宜使用的比例——往往是因为其中存在事实错误或表述失实——远高于试点评估中测算的9%这一公开误差率。此外，该机构还发现，APS生成的摘要并未经过任何质量控制。
庇护决策者在审查庇护案件时使用这些工具以节省时间；据政府估算，两项工具协同使用时，每案可节省约一小时。案件经办人员借助ACS加快对口述笔录的审核，这些笔录中，寻求庇护者会说明自己在原籍国遭受迫害的情况以及为何不敢返回。他们还把APS用作检索助手，用于查找并汇总有关各国政策的信息，从而判断申请人是否在其原籍国面临真实的人身危险。7月，一名英国法官指控英国内政部援引一份“人工智能生成”的文件，以“其原籍国对其安全无虞”为由，驳回了一名摩洛哥妇女及其子女的庇护申请。
“我们处理的是关乎人命的事。我们谈论的是一些曾遭遇过最恶劣境况的人，而我们的职责本应是基于事实、以对伤害的深刻理解来作出决策，”工党后座议员贝尔·里贝罗-阿迪在接受《连线》杂志采访时表示。“我只是认为，让机器来做这些决定并不合适。”
英国内政部发言人表示：“人工智能的使用只是我们用于保护边境的众多工具之一，并不会取代或自动化人类决策者的角色。”
里贝罗-阿迪、阿尔谢里夫以及一直单独调查这些工具的公共法项目，也担心GPT模型中广为人知的“文化偏见”可能导致语言障碍，并使摘要丧失文化细微差别，进而引发歧视性决策。OpenAI的一位发言人向《连线》杂志强调，公司正在持续努力提升其模型的准确性，并指出公司将于明年一月停用GPT-4。
在缺乏监管的情况下，英国的《人工智能行为准则》规定，各政府部门必须对其在决策过程中使用的算法工具保持透明，并向公众公开相关资讯，包括将这些工具列入公共资源库。然而，英国内政部的案件摘要与政策检索工具并未被列入该名单。
寻求庇护者也无从得知这些人工智能工具在其案件中何时被使用。“移民组织和法律从业者中，很少有人真正了解这一工具的实际应用情况，”负责ORG移民数字正义项目的阿尔谢里夫表示，“因此，我们必须让他们知晓此事，向他们说明其运作机制，以便他们能够对此提出质疑。” ORG委托出具的一份独立法律意见书中，Cloisters律师事务所指出，无法对人工智能对其个人信息所作的不准确摘要提出异议，可能违反英国的数据权利相关法律。英国内政部在其隐私声明中称，决策过程的某些环节可能会涉及自动化技术。
两组均已将其调查结果提交给英国数据监管机构——信息专员公署，该机构目前正在调查英国内政部拒绝向ORG说明工作人员如何使用以及接受过哪些相关培训的两款人工智能工具。
公共法律项目高级研究员卡罗琳·塞尔曼还指出，ACS 和 APS 这两款工具只是其团队发现的、在政府各部门被广泛使用却未纳入公开数据库的 11 种高风险人工智能系统中的两种。她担心，可能还有更多此类系统已在政府内部部署，甚至连研究人员乃至受其影响的个人都尚未察觉。
“其他工具正在被使用，但却完全未予公开，”塞尔曼表示，“如果你连它们是否被使用都不知道，就根本无从谈起相关问题。”