Australia está a solo unos años de convertirse en una distopía orwelliana, con IA integrada en sistemas de vigilancia que monitorean cada movimiento, advirtió un experto.
El Dr. Rafael Cirillo, profesor titular de la Universidad de Sydney, dijo al Daily Mail que las cámaras de vigilancia ya estaban «en todas partes» y que la IA «añadiría una capa adicional».
«En su mayor parte ya está aquí, pero probablemente en los próximos tres a cinco años, diez años como máximo, predigo que la vigilancia será la norma», afirmó.
El Dr. Ciriello añadió que Australia había creado un sistema de vigilancia similar al de China, aunque destacó que ninguno de los países tenía una estrategia nacional.
«Lo que tenemos en realidad no es diferente de lo que tenemos en China», afirmó.
A diferencia de lo que tenemos en Occidente, tienen marcos legales diferentes (que utilizan la vigilancia) que imponen sanciones diferentes a las personas que infringen la ley. Pero es más a nivel regional-estatal. No está integrado a nivel nacional”.
Un informe de la Oficina de Auditoría de Queensland publicado en septiembre reveló que el gobierno estatal tenía una supervisión limitada del uso ético de la IA.
Al analizar la implementación de la tecnología de reconocimiento de imágenes mediante IA para detectar infracciones relacionadas con el uso del teléfono y el uso del cinturón de seguridad en los automóviles, se descubrió que las autoridades «tienen una visibilidad limitada sobre el uso de la IA y los riesgos éticos emergentes».
Más autoridades en Australia están explorando el uso de la vigilancia mediante IA en la vida cotidiana
El informe sugiere que el plan puede infringir la privacidad de los habitantes de Queensland.
Este año, el consejo de Melbourne también discutió planes para introducir una cámara privada y un sistema de sensores de mapeo 3D para monitorear las multitudes en el Año Nuevo, y está considerando hacer que la tecnología sea permanente.
Ambos enfoques plantean preguntas más amplias sobre los riesgos que conlleva la vigilancia, incluida la tecnología impulsada por IA, y cómo se extenderá por Australia.
Si las tendencias continúan creciendo, el Dr. Ciriello ofrece una predicción sombría para el futuro de Australia.
«Esto parece una forma de distopía orwelliana en la que tenemos tecnología a gran escala en todas las esferas públicas», dijo.
«La gente se acostumbra, pero debido a que estos sistemas de IA son inherentemente sesgados, probablemente se dirigen de manera desproporcionada a minorías y poblaciones desatendidas.
‘Esto conduce a un mayor escrutinio de las minorías raciales y étnicas. Especialmente ellos resultarán gravemente dañados.’
Una cuestión particular planteada por el Dr. Ciriello es la forma en que algunas personas responden al saber que están bajo vigilancia, citando observaciones hechas por un colega que se especializa en delitos de desempeño.
El Dr. Rafael Cirillo, profesor titular de la Universidad de Sydney, advirtió que la vigilancia podría convertirse en la norma para los australianos en los próximos tres a cinco años.
«Existe una clara tendencia en Nueva Gales del Sur de que los adolescentes utilicen deliberadamente cámaras de vigilancia para filmarlo como un concurso de atención en TikTok», dijo.
‘Algunos están utilizando esa atención para cometer crímenes a propósito. Otros trasladan la actividad a otra parte, donde es menos transparente.
‘Cada calle por la que caminas, eres monitoreado y rastreado y eso cambia todo tu comportamiento.
«Ya no existe un verdadero espacio público y un verdadero espacio privado porque en todas partes hay alguien mirando y algo está siendo rastreado».
El Dr. Ciriello dijo que el gobierno de Queensland y el Ayuntamiento de Melbourne no fueron los primeros en implementar vigilancia mediante IA, y los principales minoristas como Kmart y Bunnings incorporaron tecnología de detección de robos.
«Lo usamos en el Abierto de Australia con tecnología de reconocimiento facial y ahora estamos usando el reconocimiento de imágenes en el tráfico en las calles», dijo.
Pero, cuando se le preguntó si existía riesgo de vigilancia excesiva, confirmó que desde su perspectiva se trataba de un problema grave.
«Como tengo antecedentes europeos, normalmente me sorprende lo que está sucediendo aquí (Australia), porque va a provocar una gran protesta en Europa», dijo.
El Dr. Ciriello dice que el nivel de vigilancia en Australia es similar al de China (visitantes filmados por cámaras de inteligencia artificial con tecnología de reconocimiento facial en Beijing en 2018).
El Dr. Ciriello dijo que pasó los primeros 20 años de su vida en Alemania, donde «por razones históricas la gente tiene preocupaciones muy fuertes sobre la privacidad».
‘Tuvieron experiencia de primera mano, primero bajo el régimen nazi y luego en Alemania Oriental como parte de la Unión Soviética, donde los alemanes hoy en día tienen una historia de estar muy preocupados por la privacidad.
«Crecí en ese entorno y la infraestructura de vigilancia aquí (en Australia) es ciertamente muy avanzada».
Políticas como la muy elogiada prohibición del gobierno albanés de las redes sociales para los menores de 16 años también están normalizando la vigilancia de la IA, afirmó.
La prohibición se lanzó el 10 de diciembre con plataformas y padres para mantener alejados a los niños.
Pero el Dr. Ciriello explicó que las plataformas se basan en algoritmos de inteligencia artificial para determinar si un usuario es menor de edad al observar su historial de búsqueda.
«Creo que mucha gente ya se ha resignado al hecho de que vivimos en una sociedad completamente vigilada», afirmó.
‘Esta vigilancia proviene no sólo del Estado sino también de proveedores comerciales en varios niveles (como las plataformas de redes sociales).
El Dr. Ciriello (en la foto) advirtió sobre una mayor vigilancia dirigida a las minorías en Australia
‘Los datos a menudo se reenvasan y venden. La infraestructura técnica existe, pero lo que le falta a Australia son mecanismos de supervisión democrática.
Cuando se le preguntó si el mayor uso de la vigilancia mediante IA infringiría las libertades de los australianos, el Dr. Ciriello preguntó: «¿Qué libertad?»
«No sólo estamos en peligro de perderlo, sino que en cierto modo ya lo hemos perdido», afirmó.
‘Ya no existe la privacidad. Todo está siendo monitoreado. Todo está en línea.
«Ya hemos renunciado a demasiado y la tendencia general es hacia una mayor erosión de la privacidad».
