De twee dichtstbevolkte staten van Australië testen software voor gezichtsherkenning waarmee de politie kan nagaan of mensen thuis zijn tijdens de quarantaine van COVID-19, waardoor de controversiële proeven worden uitgebreid tot het overgrote deel van de bevolking van het land.

Het weinig bekende technologiebedrijf Genvis zei op een website voor zijn software dat New South Wales (NSW) en Victoria, waar Sydney, Melbourne en meer dan de helft van de 25 miljoen inwoners van Australië wonen, zijn gezichtsherkenningsproducten aan het uittesten waren. Genvis zei dat de proeven op vrijwillige basis werden uitgevoerd.

De in Perth, West-Australië gevestigde startup ontwikkelde de software in 2020 samen met de WA staatspolitie om te helpen bij het afdwingen van beperkingen op beweging door de pandemie en heeft gezegd dat het hoopt om zijn diensten in het buitenland te verkopen.

De in Perth, West-Australië gevestigde startup ontwikkelde de software in 2020 samen met de WA staatspolitie om te helpen bij het afdwingen van beperkingen op pandemische bewegingen en heeft gezegd dat het hoopt om zijn diensten in het buitenland te verkopen.

De staat South Australia is vorige maand begonnen met het uittesten van een soortgelijke, niet-Genvis-technologie, wat wereldwijd tot waarschuwingen van privacyvoorvechters heeft geleid over mogelijke surveillance-overschrijdingen. De betrokkenheid van New South Wales en Victoria, die niet bekend hebben gemaakt dat ze proeven doen met gezichtsherkenningstechnologie, kan die bezorgdheid nog doen toenemen.

VN waarschuwt voor gevaar voor mensenrechten


De onthulling dat de dichtstbevolkte staten van Australië proeven doen met gezichtsherkenning komt enkele dagen na de waarschuwing van de VN dat de technologie een ernstig gevaar kan vormen voor de mensenrechten.

De Hoge Commissaris voor de mensenrechten van de VN, Michelle Bachelet, zei woensdag dat op AI gebaseerde technologieën zoals gezichtsherkenning “negatieve, zelfs catastrofale gevolgen kunnen hebben als ze worden gebruikt zonder voldoende aandacht voor de manier waarop ze de mensenrechten van mensen beïnvloeden”.

Hoewel Bachelet niet opriep tot een totaal verbod op gezichtsherkenningstechnologie, zei ze dat regeringen het gebruik van gezichtsscans in realtime moeten stoppen totdat ze kunnen bewijzen dat de technologie nauwkeurig en niet-discriminerend is en voldoet aan de normen inzake privacy en gegevensbescherming.

Gezichtsherkenning


NSW Premier Gladys Berejiklian zei in een e-mail dat de staat “dicht bij het testen van een aantal thuis quarantaine opties voor terugkerende Australiërs” was, zonder direct te reageren op vragen over Genvis gezichtsherkenning software. De politie in NSW verwees vragen door naar de premier van de deelstaat.

De politie van Victoria verwees vragen door naar het ministerie van Volksgezondheid, dat vervolgens niet reageerde op verzoeken om commentaar.

In het systeem dat wordt getest, reageren mensen op willekeurige verzoeken om in te checken door een “selfie” te nemen op het door hen opgegeven quarantaineadres thuis. Als de software, die ook locatiegegevens verzamelt, de foto niet kan vergelijken met een “gezichtsherkenning”, kan de politie een bezoek brengen aan de locatie om de verblijfplaats van de persoon te bevestigen.

Hoewel de technologie sinds november vorig jaar in WA wordt gebruikt, is zij recentelijk aangeprezen als een middel om het land in staat te stellen zijn grenzen weer te openen en een einde te maken aan een systeem dat sinds het begin van de pandemie van kracht is en waarbij internationaal aangekomen personen twee weken in hotel-quarantaine moeten doorbrengen onder politiebewaking.

Gemeenschappen veilig houden


Afgezien van de pandemie hebben politiediensten belangstelling getoond voor het gebruik van gezichtsherkenningssoftware, wat leidde tot verzet van rechtengroeperingen over het potentieel om minderheidsgroepen als doelwit te nemen.

Hoewel de herkenningstechnologie is gebruikt in landen als China, is van geen enkele andere democratie gemeld dat zij het gebruik ervan overweegt in verband met procedures om het coronavirus in te dammen.

Genvis Chief Executive Kirstin Butcher weigerde commentaar te geven op de proeven, buiten de informatie op de website van het product.

“Je kunt geen thuisquarantaine hebben zonder nalevingscontroles, als je gemeenschappen veilig wilt houden,” zei ze in een telefonisch interview.

“Je kunt geen fysieke controles uitvoeren op de schaal die nodig is om (sociale en economische) heropeningsplannen te ondersteunen, dus moet technologie worden gebruikt”.

Waar houdt het op?


Maar rechtenactivisten waarschuwden dat de technologie onnauwkeurig kan zijn en het raam kan openen voor wetshandhavingsinstanties om de gegevens van mensen voor andere doeleinden te gebruiken zonder dat specifieke wetten hen tegenhouden.

“Ik maak me niet alleen zorgen over het gebruik, maar ook over het feit dat dit een voorbeeld is van het sluipende gebruik van dit soort technologie in ons leven,” zei Toby Walsh, professor Kunstmatige Intelligentie aan de Universiteit van NSW.

Walsh zette vraagtekens bij de betrouwbaarheid van gezichtsherkenningstechnologie in het algemeen, die volgens hem gehackt kan worden om valse locatiemeldingen te geven.

“Zelfs als het hier werkt … dan valideert het het idee dat gezichtsherkenning een goede zaak is,” zei hij. “Waar houdt het op?”

De regering van West-Australië heeft verklaard dat zij de politie heeft verboden gegevens die met COVID-19-gerelateerde software zijn verzameld, te gebruiken voor niet-COVID-19-zaken. De politie van WA zegt dat zij 97.000 mensen zonder incidenten door thuisquarantaine heeft gehaald, met gebruikmaking van gezichtsherkenning.

“De wet zou moeten voorkomen dat een systeem voor quarantainebewaking voor andere doeleinden wordt gebruikt,” zei Edward Santow, een voormalige Australische commissaris voor mensenrechten die nu een ethisch project over kunstmatige intelligentie leidt aan de Universiteit van Technologie in Sydney.

“Gezichtsherkenningstechnologie lijkt misschien een handige manier om mensen in quarantaine te controleren, maar … als er iets misgaat met deze technologie, is het risico op schade groot”.

Bron: Euronews.com