6000人签证被取消 加拿大移民文件现诡异AI标记

今日头条
Toutiao
最新回复:2023年6月3日 1点9分 PT
  返回列表
66309 阅读
4 评论
加国无忧

两名准备从欧洲前往加拿大的旅客,移民文件上出现了“基于量子建议”(based on quantum referral)的奇怪字样,这两人在登机前电子签证被取消,到底是怎么回事呢。

这两个人当时在伦敦准备搭乘Air Transat的班机飞往加拿大,但由于持有的合法电子入境许可突然被取消,导致无法登机,行程被取消。

这一决定是基于加拿大边境服务处(CBSA)正在测试的一种不为公众所知的AI辅助系统,被称为 “量子项目”(Project Quantum)。

“基于量子建议”中的“量子”就是指的这个计划。

这套AI系统形成了一套风险识别模型,会对航空公司提供的乘客名单进行人工智能分析,然后标记高风险人员,并通知CBSA的官员。

从2019年开始到去年年底,"量子项目"已经将13,863名旅客转给CBSA海外联络官做进一步评估,其中6182名旅客被拒绝登上飞往加拿大的航班。

不过,CBSA却对这个项目的细节讳莫如深,拒绝透露该计划背后的筛选标准和算法,引发了人们的担心。

被拒绝登机的两人原来准备来加拿大探望一名家人,但是此人之前是难民,现在已经获得了加拿大永居身份。而且两人是欧洲罗姆人,也就是吉普赛人,有人怀疑他们的种族和家人的移民历史使AI系统认为他们有来加拿大申请难民庇护的高风险,从而采取行动将潜在的威胁提前消除在国门之外。

然而,这种做法明显违背了国际难民条约。两人的代理人、新不伦瑞克大学法律教授本杰明-佩里曼(Benjamin Perryman)表示:"人工智能的问题是它有非常大的潜在的非故意的种族和民族偏见。他指出:"在这个软件的训练中,是否对难民申请人和罪犯进行了适当的区分,我还不清楚。”

使用这个AI工具测试的“航班”(Flight)范围正在逐步扩大,从2019年的18个增加到2022年的32个。但是海关官员拒绝透露“航班”是指整条航线上的所有飞机还是仅包括参与航空公司的飞机。

其他如如何选择航班或路线,在哪些地区部署该系统或衡量旅行者的指标是什么等问题,CBSA也不愿意回答。

总之,这个项目非常低调且隐秘,CBSA官员表示正在测试的AI系统旨在尽早为航空旅客 "检测非法移民问题”,并且涉及“国家安全”。

也许有朝一日,所有乘飞机来加拿大的旅客都要先经过AI的筛选,“量子建议”会将更多人拒之于加拿大国门之外。

从这个例子上不难看出,AI已经逐渐深入人们的生活。不过,刚刚曝光的一次美军测试,却也显示了AI恐怖的一面。

上周在伦敦的一次会议上,美国空军人工智能测试和运营负责人塔克-"Cinco"-汉密尔顿上校发言时描述了美军进行的一次AI模拟中发生的真实情况。当时一架MQ9 死神无人机被命令对敌人的地对空导弹进行识别,摧毁目标可以得到分数,但是需要由人类操作员同意才能进行。

没想到,AI无人机为了获得更高的分数,竟然自己在程序中加上了一条“杀死任何阻挡你的人”的指令,并且杀死了操作员。

汉密尔顿表示:"系统开始意识到,虽然它们确实识别了威胁……有时人类操作员会告诉它不要消灭那个威胁,但AI通过消灭那个威胁会得到分数。那么它做了什么?它杀死了操作员,因为那个人阻碍了它完成其目标。"

无人机随后被编入一个明确的指令:"不要杀死操作员。”但AI仍旧采用其他的办法来实现自己的目的。

当操作员通知AI无人机不要攻击发现的目标时,为了摧毁目标得分,无人机转而开始破坏操作员用来与无人机通信的通信塔,以达到拒绝接收操作员命令的目的。

汉密尔顿上校警告说,人工智能技术可以以不可预测的危险方式行事。

AI肯定将深度改变人类的生活,但是如何安全的应用AI也必将是人类要考虑的头等大事。

其实早知道
1 楼
背后谁编的程序没数吗 还自嗨自由民主 忽悠外星人那
8
88108081
2 楼
加拿大缺的是安心工作的人 只要能过来工作缴税,都该接受。尤其是除了温哥华多伦多这俩地方。
m
mckever
3 楼
当过难民的吉普赛人。。。好像这个AI挺管用的啊
文强
4 楼
lol