¿Qué hay detrás de la medida de la Provincia de imputar a la empresa de escaneo de iris Worldcoin?

El Ministerio de Producción, Ciencia e Innovación Tecnológica de la Provincia de Buenos Aires imputó a la empresa Worldcoin. La medida fue tomada a partir de la detección de cláusulas abusivas incorporadas en los contratos de adhesión que la compañía obliga a aceptar, en incumplimiento de la Ley Nacional de Defensa del Consumidor.

Las autoridades provinciales también encontraron contradicciones en torno al uso, resguardo y almacenamiento de los datos biométricos recolectados de los usuarios argentinos, que aparentemente se alojarían en territorio brasileño. Además, se observó una falta de señalizaciones que indiquen que, para acceder al servicio, el requisito mínimo de edad es de 18 años, lo que implicaría el escaneo de datos personales de menores.

Para conocer más detalles sobre el funcionamiento de Worldcoin, la imputación que se presentó en su contra y los riesgos que conlleva brindar este tipo de datos a terceros, desde Portal Universidad dialogamos con Federico Álvarez Larrondo, abogado y titular de la cátedra Inteligencia Artificial, Tecnología y Derecho de la Universidad Nacional de Mar del Plata.

¿Qué es Worldcoin y cuáles son sus principales objetivos?

Worldcoin es una compañía creada por Sam Altman, empresario y programador estadounidense que también fundó la empresa Open AI, famosa por desarrollar la reconocida aplicación de chatbot de inteligencia artificial ChatGPT.

Radicada en las Islas Caimán, la entidad se presenta a sí misma como una organización sin fines de lucro. Según su sitio web oficial, su fin es “crear instituciones de gobernanza y de economía digital global más inclusivas y equitativas”. En ese marco, la empresa realiza un escaneo facial y del iris de las personas para generar una Identidad Digital única a nivel mundial (World ID), la cual les permitiría a estos usuarios acceder a una moneda digital (World Coin) a través de una aplicación (World App). La compañía asegura que ya posee casi 3 millones de usuarios únicos de más de 120 países, entre ellos, Argentina.

Sam Altman, fundador de Worldcoin y OpenAI

Álvarez Larrondo señala que esta recopilación del iris de los ciudadanos de todo el mundo por parte de Worldcoin busca alcanzar principalmente tres finalidades: “En primer lugar, se pretende crear un sistema de verificación que permita generar, según la empresa, una seguridad absoluta a la hora de acceder a cualquier servicio o aplicación”, señaló.

“Hoy, todas las claves de acceso alfanuméricas que se utilizan pueden ser fácilmente hackeadas y, por lo tanto, cualquiera podría ingresar o estafar a los usuarios apropiándose de ellas. En cambio, si uno tuviese una fuente de acceso única e irrepetible, como lo es un dato biométrico – en este caso, el iris – lo que haría el sistema es, una vez escaneado por la herramienta que ellos han creado para capturar su imagen (Orb), se podría ofrecer luego como servicio a cualquier otra empresa. Entonces cuando yo quisiera acceder, por ejemplo, a mi correo electrónico, ya no tendría que colocar mi clave para ingresar, sino escanear directamente mi ojo, y de esa manera podría entrar a mi casilla de mail sin que nadie supiese quién es la persona que está accediendo. Por lo tanto, lo que ellos prometen es seguridad y anonimato a la hora de acceder a cualquier servicio”, agregó el catedrático.

Los dos objetivos restantes que posee Worldcoin son planteados por Álvarez Larrondo como escenarios que se entrelazan: “Como Sam Altman cree que en el futuro el avance de la inteligencia artificial generará la desaparición de muchos puestos de trabajo y una reducción en la demanda de la mano de obra humana, es muy probable que tengamos que dirigirnos hacia soluciones que hace tiempo se vienen discutiendo en los países del primer mundo, como la posibilidad de crear una renta básica universal, que todos cobraríamos por el simple hecho de ser humanos. Lo que Altman plantea es que, en vez de ser el Estado el que abone esta renta, sería Worldcoin la que nos acredite todos los meses una criptomoneda, y para acceder a ella debamos escanear nuestro iris”, afirmó.

“Y aquí­ es donde llegamos a la tercera etapa, que consiste en crear una moneda universal, en este caso el World Coin, que en realidad se trata de un token producido sobre una plataforma blockchain que le asigna un valor, y con eso nosotros podríamos en un futuro comprar bienes y servicios. Justamente esto es lo que actualmente funciona como uno de los incentivos más importantes para que la gente acepte escanear su iris, porque a cambio de ello recibe una cierta cantidad de esta ‘criptomoneda’ entre comillas, porque la realidad es que se trata de un token” puntualizó el abogado.

La privacidad y seguridad de los datos, en jaque

Al ser consultado sobre cuáles son las medidas que Worldcoin alega esgrimir para garantizar la privacidad y seguridad de los datos que recolecta a través del escaneo del iris, Álvarez Larrondo resalta un dato llamativo: el uso de disclaimers por parte de la compañía. Al respecto, señaló: “En los términos y condiciones de los contratos que esta empresa extiende a los usuarios se incorporan los famosos disclaimers, que son cláusulas en las cuales vos aclarás que no te haces responsable por ciertas condiciones. Por ejemplo, en estos disclaimers la empresa aclara que no puede asegurarte que no exista un hackeo y que, por lo tanto, sujetos ajenos a la compañía puedan obtener esa información que está registrada. Obviamente te prometen que harán los mayores esfuerzos para que esto no suceda, pero no lo pueden asegurar, por lo que no se hacen responsables del destino de los mismos en caso de existir una violación en su seguridad”.

“Justamente lo que no queda claro tiene que ver con cuáles son las medidas de seguridad de estas empresas. Pensemos que ellos declaran que poseen distintos datasets o bases en las que se acumulan los registros que van receptando. En nuestro caso, todo el registro que van haciendo en los distintos lugares de la República Argentina lo envían a un data center ubicado en Brasil. Con lo cual aquí hay una traslación de datos que implica una transferencia internacional de los mismos. Y, vale bien recordarlo, hablamos de datos biométricos, que son los protegidos con mayor severidad en los distintos ordenamientos del mundo, incluso en Argentina. El dato biométrico es muy importante porque no se puede modificar. Por esta razón, utilizarlos como claves de acceso es uno de los mayores peligros que existen, ya que si se entregan y luego, por algún motivo, terminan en manos non santas, terceros pueden empezar a actuar suplantando nuestra identidad a través de ese dato biométrico”, agregó el letrado.

La prohibición de Worldcoin en distintos países y la imputación de la Provincia

Álvarez Larrondo también se refirió a las recientes medidas de prohibición decretadas por algunos Estados con el fin de velar por una adecuada protección de los datos de sus ciudadanos: “Kenia fue el primer país que comenzó a investigar cuáles eran las formas de actuación de Worldcoin. A partir de allí, todos los países empezaron a preocuparse por el accionar de esta compañía, que empezaba a tomar estado público. Actualmente, la suspensión de sus actividades se resolvió en cinco países. Además de la mencionada Kenia, España, Portugal, Francia y, según las crónicas de los diarios, también lo habría hecho Brasil. Es decir, estamos hablando de organismos nacionales que son los que han impuesto la prohibición de seguir capturando el iris de sus ciudadanos y ciudadanas”, expresó el entrevistado.

En Argentina, el caso es diferente: “Aquí se había iniciado una investigación por parte de la Agencia Nacional hace más de un año y medio. A su vez, la Provincia, a través de su área de Defensa del Consumidor, comenzó a realizar relevamientos, principalmente porque el grueso de las capturas se han dado en el conurbano bonaerense y la costa atlántica. Lo que hizo la autoridad provincial es aplicar, siguiendo lo dispuesto por la Ley de Defensa del Consumidor, lo que le autorizaba su marco de actuación, que es analizar el contrato de adhesión extendido por Worldcoin y sus disposiciones”, dijo Álvarez Larrondo.

“Al hacerlo, se observaron cláusulas que, para nuestro ordenamiento legal argentino – en el que rigen la Ley 24.240 de Defensa del Consumidor y el Código Civil y Comercial – son absolutamente inválidas. Por ejemplo, en el contrato se establece que aquellos sujetos cuyos iris fueron escaneados no pueden iniciar acciones por daños ante tribunales locales en caso de existir perjuicio alguno, sino que la cuestión será dirimida ante un tribunal arbitral. Es decir, uno al adherir renuncia a iniciar cualquier proceso ante la justicia argentina. Además, en otra cláusula se establece la renuncia del usuario a sumarse a una acción o proceso colectivo en cualquier lugar del mundo. Y no solo eso, también especifica que la empresa puede transferir esos datos a terceros, pero no sabemos exactamente quiénes ellos pueden ser”, agregó el catedrático.

Largas filas en distintos puntos del país para el escaneo de iris

Además, la imputación del Ministerio de Producción, Ciencia e Innovación Tecnológica de la Provincia de Buenos Aires también puso foco en la falta de advertencias que indican que, para acceder al servicio, el requisito mínimo de edad es de 18 años. Sobre ello, Álvarez Larrondo afirmó: “Se habría constatado que menores de edad podían acceder a entregar el iris a cambio de esas criptomonedas, lo que violaría el principio de mayoría de edad de nuestro ordenamiento legal”.

Debido a estas irregularidades observadas en los contratos de adhesión, Worldcoin se expone a multas de hasta mil millones de pesos. Pero el futuro de la imputación debe continuar el camino legal correspondiente. Al respecto, Álvarez Larrondo explicó: “El proceso de Defensa del Consumidor asegura el derecho de defensa en juicio, por ello ahora de esa imputación se le correrá traslado a la empresa, y ella deberá responder. Luego, la autoridad administrativa decidirá en consecuencia si aplica o no la multa, y en caso afirmativo de cuánto será su monto. A partir de allí, en la Provincia de Buenos Aires también se abre todo otro camino, que es el proceso de revisión de esa decisión en sede judicial en el Contencioso Administrativo de La Plata, ya que la decisión se tomará en esa ciudad”.

Las escasas y contradictorias respuestas por parte de la empresa

El comunicado emitido por la Provincia de Buenos Aires también hizo alusión a la falta de respuestas concretas por parte de la empresa imputada. Sobre ello, el entrevistado afirmó: “Las respuestas brindadas por la empresa fueron contradictorias. No han sido claros ni terminantes. En España, por ejemplo, habían anunciado que iban a presentar un recurso contra la decisión que prohibió su accionar, pero nunca lo hicieron público. Con lo cual hoy no están claros los argumentos que sostendrían la validez de su posición”.

Sin embargo, Álvarez Larrondo entiende que la empresa esgrimirá que su actividad está amparada por el consentimiento que prestan aquellos que aceptan escanear su iris: “A todos ellos se les hace firmar un consentimiento, y por lo tanto desde Worldcoin alegarán que cumplen con ese deber de información previo, debido a que una de las razones que justifican la entrega de un dato sensible es que, quien lo brinda, acepte expresamente hacerlo”, dijo.

“Esto igualmente es relativo, porque conforme nuestra Ley 25.326 y los Acuerdos 108 y 108+ que Argentina incorporó en su legislación en 2023, debe existir una razón concreta para la entrega de un dato sensible. Por ejemplo, un dato de salud es sensible, y obviamente yo se lo voy a brindar a un médico al que asisto por primera vez. En este caso, le estaría proporcionando información que tiene que ver con cuáles son las patologías que poseo, y el médico la puede acopiar porque hace a su función propia. Ahora bien, entregar el iris porque sí, a cambio de una contraprestación, en realidad iría en contra del propio ordenamiento establecido por la mencionada ley y sus normas complementarias, que están integradas a la Ley de Defensa del Consumidor”, puntualizó Álvarez Larrondo.

The Orb, la herramienta utilizada por Worldcoin para el escaneo

Otro punto a tener en cuenta con respecto al deber de información previo es que debe poseer claridad: “La información brindada tiene que ser adecuada, clara, comprensible. El gran problema es que, cuando se les hacían entrevistas a quienes estaban esperando en esas largas filas para escanear su iris, uno observaba que su consentimiento estaba afectado por el hecho de que sabían que estaban haciendo una contraprestación. Es decir, que les estaba pagando por esos datos. Entonces ¿Dónde hay libertad a la hora de tomar una decisión, cuando necesito dinero y me lo están dando por entregar algo cuyo impacto a posteriori tampoco me explican? Porque lo cierto es que no están cumpliendo con una información clara y adecuada respecto de los riesgos que esto puede traer en el futuro”, explicó.

La imputación no impide que Worldcoin continúe desarrollando sus actividades

Álvarez Larrondo también planteó que si bien la imputación es viable, el problema se da porque, pese a ella, la empresa podrá continuar recopilando datos de ciudadanos en nuestro país: “En principio, lo que hay que discutir es si Worldcoin puede seguir recopilando información de los usuarios. En España, por ejemplo, el gobierno estableció la paralización por tres meses de las actividades de la empresa para analizar su accionar y la información que le fue solicitada. Una vez resuelto ello, recién ahí se iba a decidir sobre la continuación o no de sus tareas. En nuestro caso, lo que tenemos es una imputación y no una sanción, y ella se efectuó por cláusulas abusivas. La realidad es que esto debería ir acompañado también de una decisión que establezca que, mientras esté en curso la imputación, Worldcoin no podrá seguir actuando”, manifestó.

“Además, un procedimiento de defensa del consumidor ya posee sus formas establecidas. De existir una imputación, la autoridad de aplicación superior va a resolver y, en caso de considerar la existencia de una infracción, aplicará la multa que fije. Pero quien debe pagarla tiene el derecho de revisarla judicialmente, y así empezar todo el recorrido – algo que creo que va a suceder en este caso – que es acudir al Juzgado Contencioso Administrativo de primera instancia, luego a la Cámara Contencioso Administrativa de la Provincia de Buenos Aires, y después puede que el caso termine en la Suprema Corte de la Provincia de Buenos Aires e incluso hasta en la Corte Suprema de Justicia de la Nación”, aclaró el catedrático.

El entrevistado también explicó que el cese momentáneo del accionar de la compañía puede ser efectuado en dos circunstancias: si interviene la autoridad de Protección de Datos Personales nacional o si se dictase alguna medida preventiva administrativa por parte de la autoridad de aplicación – herramienta válida para hacer cesar una violación de los derechos del consumidor.

Álvarez Larrondo también hizo hincapié en la necesidad de que el Legislativo discuta seriamente estas cuestiones, ya que comienzan a afectar la soberanía de los Estados. Al respecto, detalló: “El problema que estamos viendo es algo que nosotros venimos planteando hace mucho, y por eso para nosotros es tan importante lo que estamos generando desde la Universidad Nacional de Mar del Plata con, por ejemplo, la cátedra obligatoria de Inteligencia Artificial, Tecnología y Derecho, que es que todos empecemos a darnos cuenta de lo que está pasando, para que los jóvenes que hoy pasan por nuestra cátedra – y que mañana muchos de ellos van a ser legisladores – puedan generar políticas estatales para que estos casos se puedan prevenir”. El l problema que estamos viendo es algo que nosotros venimos planteando hace mucho, y por eso para nosotros es tan importante lo que estamos generando desde la Universidad Nacional de Mar del Plata con, por ejemplo, la cátedra obligatoria de Inteligencia Artificial, Tecnología y Derecho, que es que todos empecemos a darnos cuenta de lo que está pasando, para que los jóvenes que hoy pasan por nuestra cátedra – y que mañana muchos de ellos van a ser legisladores – puedan generar políticas estatales para que estos casos se puedan prevenir”.

“Este nuevo mundo virtual impone reglas totalmente propias y distintas a las que conocíamos. Por eso necesitamos generar una camada de nuevos legisladores, nuevos políticos y nuevos empresarios que entiendan que la humanidad está en el centro de la organización. Es, por ejemplo, poder decir ‘señores, no se puede recopilar datos biométricos, y por lo tanto hay que proceder a la destrucción de todos los que se hayan recopilado sin un verdadero fin’. Porque ese fin que se le ocurrió a Sam Altman puede ser muy bueno para él, pero no para la sociedad y para la humanidad. Y por esta razón es que como ciudadanos votamos, tomamos decisiones en conjunto y llegamos a un resultado”, agregó.

Posibles soluciones para garantizar la seguridad y resguardo de los datos biométricos

Para finalizar, y consultado sobre qué medidas considera que se podrían tomar en estos casos para garantizar una mayor transparencia y protección de los derechos de los usuarios y consumidores, Álvarez Larrondo afirmó: “En primer lugar lo que habría que hacer es un poco lo que marcó la Unión Europea cuando este año finalmente aprobó su primera legislación sobre inteligencia artificial. En ella, se estableció que cuando existe inteligencia artificial de alto riesgo – como por ejemplo, cuando se utiliza para reconocimiento facial – que puede impactar socialmente, la misma tiene que cumplir con un procedimiento previo de autorización. Entonces, si nosotros tomáramos ese modelo, Worldcoin tendría que haber pasado por un control estatal antes de comenzar a actuar, en el que se validen los objetivos y observe si la empresa cumple con todas las medidas de seguridad”.

“Igualmente, todo esto es nuevo y hace falta mucha discusión para que esos procedimientos a los que me refiero no terminen siendo un obstáculo para que las empresas no crezcan, que es lo que uno menos quiere. Aquí habría que hacer algo similar al modelo de autorizaciones de la Unión Europea, que tiene que ver con tener un sello de calidad y autorización para luego salir al mercado, porque no se puede lanzarse al mismo con una decisión o una estructura tan disruptiva como esta. En principio, los Estados tienen que reclamar para sí esa facultad y hacerlo, hasta si se quiere, como unión, es decir todos los países bajo una organización puntual. Nosotros lo tendríamos que hacer, por lo menos, a nivel Mercosur. Y si lo hiciésemos a nivel latinoamericano, mejor todavía. Bajamos costos, tenemos controles y al menos poseemos una pauta común para nuestro mercado”, concluyó.