26 septembre 2018 | Local, Sécurité

Artificial intelligence at border could infringe on human rights: report

By

Using artificial intelligence at Canada's official points of entry can lead to serious human rights violations, according to a new report.

Released Wednesday by the University of Toronto's International Human Rights Program (IHRP) and the Citizen Lab at the Munk School of Global Affairs and Public Policy, the report says the use of artificial intelligence (AI) at regular points of entry is “quite risky” without appropriate government oversight.

“We know that, in other contexts, AI is not neutral,” report author Petra Molnar told iPolitics. “It's basically like a recipe. If your recipe is biased, then the result that is going to come out of the algorithm is also going to be biased.”

What these technologies could do, according to the report, is decide whether a marriage is genuine, an application is complete, or whether someone entering the country is deemed “a risk” to public safety. If the government doesn't provide more oversight, such decisions could rely on appearance, religion, or travel patterns as “proxies” for more relevant data normally gathered by immigration officials.

This could compromise some quintessential human rights for immigrants and refugees at the border, including the right to equality and to be protected from discrimination under the law.

The report says AI machines could be taught algorithms for how to assess “red flags,” “risks,” and “frauds” based on pre-existing biases in some of the immigration and refugee system's current regulations. For example, the report said the Designated Country of Origin list, which classifies which countries are “safe” for refugee claimants, uses an “incomplete” definition of safety that does not take into account specific risks for minority groups, such as women or members of the LGBTQ community.

The use of AI technologies could mean cases are likely to be determined only based on these types of guidelines and might not include the discretion and empathy employed by immigration officials when reviewing the details of a refugee claim.

“Depending on how an algorithm is designed, it may result in indirect discrimination,” the report found. “The complexity of human migration is not easily reducible to an algorithm.”

If someone is triaged or flagged for early deportation, it could also affect their ability to apply for a visa, appeal a negative immigration ruling, or continue to move between borders.

AI technologies also bring up procedural-rights issues, such as how a potential immigrant or refugee claimant would challenge the outcome of his case at the border.

“When you introduce AI, if you don't agree with the decision, where do you appeal? And what kind of appeal are you crafting?” Molnar said. “These are all new questions we have to ask ourselves.”

The report found that the government has been experimenting with artificial intelligence since 2014. Immigration, Refugees and Citizenship Canada confirmed to the report's authors in June it was already using an automated response to “triage,” or separate, simple claims from complicated ones that need further review.

This summer, the government sent out an RFI (a preliminary procurement document) seeking an “Artificial Intelligence Solution” to provide legal support for migrants entering at formal points of entry.

These investments fit into the federal government's $125-million Pan-Canadian Artificial Intelligence Strategy to “develop global thought leadership on the economic, ethical, policy and legal implications” of AI research throughout the country.

Molnar said she heard from government officials that their use of AI is “preliminary” at best. What the government is considering, she continued, is using AI technologies only for preliminary screening.

After AI technologies have reviewed a case, Molnar said immigration officers should still be asked to review the decision and make any appropriate changes.

Molnar said it's still too soon to tell what AI could look like at the borders, but noted the technological changes could be vast.

“It can be as simple as an Excel sheet, all the way to totally autonomous robots in other sectors,” she continued. “In immigration, how this could manifest ... could include a triage system where a traveller might be designated a high risk or low risk, or streamed for high risk and low risk.”

To solve these possible human-rights infringements, the report suggests installing an independent, arms-length government-oversight body to “engage in all aspects of oversight,” before the government continues to develop these technologies.

This recommendation, Molnar said, is in line with the Treasury Board of Canada Secretariat's review into responsible use of AI throughout government offices. Among other recommendations, the board suggests more transparency from government offices about when AI technologies will be used during a discretionary decision-making process. The report notes this suggestion “is promising, from a human-rights perspective,” but the document is non-binding and is still subject to change.

Until the review body is created, the report suggests government freeze “all efforts to procure, develop or adopt” any new automated-decision-system technology before a government oversight process is in place.

https://ipolitics.ca/2018/09/26/artificial-intelligence-at-border-could-infringe-on-human-rights-report/

Sur le même sujet

  • Senior leaders produced no documents on high-profile case of Maj.-Gen. Dany Fortin, DND claims

    19 octobre 2023 | Local, Terrestre, C4ISR

    Senior leaders produced no documents on high-profile case of Maj.-Gen. Dany Fortin, DND claims

    National Defence claims documents don't exist are false, major general says

  • Appel au secteur manufacturier pour contribuer à la production d’équipements médicaux

    27 mars 2020 | Local, Aérospatial, Naval, Terrestre, C4ISR, Sécurité

    Appel au secteur manufacturier pour contribuer à la production d’équipements médicaux

    Si vous êtes un manufacturier canadien ou une entreprise canadienne qui peut aider le Canada à répondre aux besoins en fournitures médicales, votre aide est nécessaire Si vous pouvez répondre oui aux affirmations suivantes, contactez-nous. Vos activités manufacturières sont basées au Canada ou vous avez facilement accès aux intrants nécessaires par le biais de votre chaîne d'approvisionnement. Vous disposez d'équipements pouvant être modifiés ou d'installations qui pourraient être réorganisées rapidement pour répondre aux besoins médicaux, notamment pour fabriquer de l'équipement de protection individuelle comme des gants, des masques et des blouses chirurgicales; des désinfectants; des lingettes; des ventilateurs; et d'autres équipements et fournitures médicaux. Vous avez des travailleurs qualifiés capables de réagir et qui seraient disponibles pour travailler dans les circonstances actuelles. Le Plan canadien de mobilisation du secteur industriel pour lutter contre la COVID-19 soutient directement les entreprises afin d'augmenter rapidement leur capacité de production et en leur donnant les outils nécessaires aux chaînes de production pour concevoir des produits faits au Canada qui aideront à lutter contre la COVID-19. Pour plus d'informations, cliquez ici. Ressources pour les entreprises canadiennes Les petites et moyennes entreprises sont la pierre angulaire de l'économie canadienne. C'est la raison pour laquelle le gouvernement du Canada adopte des mesures strictes pour aider les entreprises canadiennes à faire face à la pandémie de COVID-19, qui les touche ainsi que leurs employés et les membres de leur famille. Le gouvernement du Canada et les responsables de la santé publique invitent tous les Canadiens à prendre les mesures suivantes : demeurer à domicile sauf s'il est essentiel de sortir faire preuve de distanciation sociale et d'hygiène adéquate Pour les entreprises, cela peut vouloir dire : de permettre autant que possible des modalités de télétravail souples de préparer votre milieu de travail pour éviter la COVID-19 (en anglais seulement) d'assurer la sécurité de vos employés (en anglais seulement) Pour plus d'informations, cliquez ici. Ontario ensemble : aidez à combattre le coronavirus Si votre entreprise ou organisation peut fournir des produits médicaux tels que des ventilateurs, des tampons, des masques et des lunettes de protection. Remplissez ce sondage : ici. Le gouvernement du Canada a également besoin de produits et de services : découvrez ce dont ils ont besoin Si votre entreprise ou organisation peut aider les communautés à résister à la pandémie et que vous avez une solution pour: des services de santé mentale virtuels pour les personnes vulnérables ou vivant dans des communautés éloignées surveillance de la résilience de la chaîne d'approvisionnement planification financière et conseils aux petites entreprises qui peuvent être fournis en ligne à faible coût, y compris des conseils sur les programmes de secours et la façon de postuler Remplissez le formulaire : ici. Si votre entreprise ou organisation a des idées, d'autres produits ou services qui pourraient aider les Ontariens : communiquez votre idée. Pour plus d'informations, cliquez ici.

  • RAPPORT SOMMAIRE FINAL Atelier de consultation sur l’industrie maritime régionale (MCMO-005)

    6 juin 2018 | Local, Naval

    RAPPORT SOMMAIRE FINAL Atelier de consultation sur l’industrie maritime régionale (MCMO-005)

    Dans le cadre des efforts continus visant à établir les stratégies du programme maritime national, le Groupe de travail sur la modernisation des approvisionnements maritimes (MAM) a tenu quatre ateliers régionaux d'un bout à l'autre du Canada, de novembre 2017 à avril 2018. Collectivement, les ateliers régionaux comprenaient la participation de près de 100 représentants de l'industrie (constructeurs de navires régionaux, fournisseurs, entreprises de génie maritime et chantiers de réparation), sans compter les homologues provinciaux et les représentants d'organismes de développement régional. Les contributions de l'industrie aux séances ont permis au groupe de travail sur la MAM de mieux comprendre les enjeux et les préoccupations de l'industrie maritime canadienne à l'égard des quatre thèmes (présentés ci-dessous). Les séances ont permis de relever un certain nombre de points récurrents, tout en ciblant de nouvelles idées et approches qui amélioreraient les pratiques fédérales en matière d'approvisionnement maritime. https://achatsetventes.gc.ca/donnees-sur-l-approvisionnement/appels-d-offres/PW-18-00830335

Toutes les nouvelles