Sam Altman, el CEO de la compañía de inteligencia artificial (IA) OpenAI, se encuentra bajo un intenso escrutinio mediático tras el lanzamiento de su nuevo proyecto, Worldcoin, el cuál intercambia escaneos de globos oculares de individuos por bloques de una nueva criptomoneda del mismo nombre. Según reportó Fortune, la Commission nationale de l'informatique et des libertés (CNIL) francesa, que regula la recolección, el uso y almacenamiento de los datos privados, sospecha que los procedimientos del emprendimiento de Altman pueden ser "cuestionables."
Worldcoin, proyecto cabecera de la compañía Tools for Humanity, afirma que sus procesos informáticos siguen los más elevados criterios éticos. Fundado por Altman en 2020, su actual CEO es Alex Blania, un programador de origen alemán. Worldcoin representa el último en una seguidilla de proyectos llevados a cabo por líderes en el campo de la inteligencia artificial que vaticinan consecuencias apocalípticas para las tecnologías que desarrollaron, y que les han generado miles de millones de dólares de ganancias.
Una reciente declaración del Center for AI Safety firmada por Altman, el CEO de Google DeepMind Demis Hassabis y Elon Musk entre otros, asemejó los riesgos futuros de la IA como posible causante de la extinción humana al peligro de las bombas atómicas y las pandemias. ¿Cuán realista es esta proyección? ¿Hasta qué punto los vaticinios apocalípticos de los más involucrados en el avance y la proliferación de la IA representan no un análisis sobrio si no su interés económico y, como tal, egoísta y sesgado?
Todas las amenazas que enfrenta Musk y por qué Twitter corre más peligro que nunca
El objetivo del proyecto Worldcoin, según sus fundadores, es promover la universalización de las criptomonedas y la obsolescencia del sistema bancario mediante una renta universal básica distribuida al mundo entero a través de la criptomoneda desarrollada por la misma organización. Worldcoin ha distribuído las primeras unidades de su token, valuado al momento de redacción en U$S0,012, a quienes dieron su consentimiento para ser escaneados.
El proyecto descentralizador que motiva las criptomonedas encontró su expresión más fervorosa en el Bitcoin a comienzos de la década, pero se ha visto golpeado con fuerza en el último año tras la caída de FTX y el colapso de varias ‘invulnerables' stablecoins cuyo valor se suponía debía permanecer atado a una moneda fiat, como el dólar. El 2022 fue llamado el annus horribilis de las criptomonedas, con frecuencia acusadas de treta financiera y estafa especulativa dado su valor en apariencia casi arbitrario y su elevado grado de fluctuación.
A medida que los miedos alrededor de la IA se multiplican gracias a sus dichos y los de sus pares, Altman también ha enmarcado al proyecto como un intento por desarrollar tecnología que confirme la humanidad de los usuarios mediante escaneos oculares. Para esto, Worldcoin construyó una orbe de metal reluciente modelada en la órbita terrestre, que traslada a distintas regiones del mundo para llevar a cabo el escaneo. La bola toma miles de medidas del campo ocular que son transformadas en secuencias numéricas únicas. Estos datos, anonimizados según Worldcoin, le permiten a los sistemas de la compañía constatar la humanidad de su usuario en un ejercicio de redundancia notable por su financiamiento. Desde su lanzamiento en marzo de este año, han escaneado los ojos de 40.000 personas por semana, y ha recaudado alrededor de U$S250 millones en sucesivas rondas de financiación. A comienzos de 2022, la empresa alcanzó una valuación de U$S3 mil millones.
La innovación que propone Worldcoin es la provisión de ‘dinero gratis' a cambio de escaneos ópticos, que sus directivos sugieren puede ser una manera de atraer a un público masivo a las criptomonedas. La operación causó amplia controversia por su preferencia, en fase beta, por extraer información ocular de individuos de países en vías de desarrollo como Indonesia, Kenya o Chile. Kenya de hecho acaba de prohibirla.
Según la investigación de la MIT Technology Review, que Worldcoin contradijo al insistir en su preocupación por la privacidad, la compañía explotó a operadores freelance en países de bajos ingresos, en particular en África, para obtener un mayor volumen de escaneos. Aunque el escaneo de globo ocular es legal en EEUU y Europa, la criptomoneda, Worldcoin, no lo es, por lo que el proyecto podría tener dificultades en su implementación en esas regiones de públicos con mayor nivel educativo y poder adquisitivo, en las que las criptomonedas han tenido mayor éxito. Si bien Worldcoin ha prometido publicar sus protocolos de privacidad, y eventualmente hacer que todo su trabajo sea de fuente abierta u open source, esto aún no ocurrió.
Altman, director de Worldcoin, alcanzó la celebridad como líder y CEO de OpenAI, la compañía que desarrolló GPT-3, la IA lingüística cuyo poderío representó un salto cualitativo para un sector que en algún momento fue marginal en el campo de la innovación tecnológica. OpenAI, fundada como empresa sin fines de lucro en 2015 con apoyo de Elon Musk, Peter Thiel, Amazon Web Services, el cofundador de la red social laboral LinkedIn Reid Hoffman, y el acelerador de startups y fondo de inversión Y Combinator.
Altman ya era, para ese entonces, reconocido como fundador de la fracasada red social Loopt, y presidente de Y Combinator, organización que abandonó para asumir el rol de CEO en OpenAI. GPT-3, el proyecto más célebre de la organización, fue lanzado al público como beta en 2020, el mismo año de la llegada de Altman a la cabecera. Su versión interactiva, Chat-GPT, alcanzó gran difusión y representó un salto cualitativo en el poderío del modelaje lingüístico al utilizar un volumen sin precedentes de información para entrenar al sistema, y un sistema de mayor sofisticación para comprender el discurso en su contexto. Al año siguiente la compañía publicó DALL-E, que utilizaba una versión modificada de GPT-3 para generar imágenes. En marzo de 2023, OpenAI anunció GPT-4, una nueva IA con aún mayor capacidad.
Las grandes corporaciones de la tecnología son jugadores clave de la escena, ya que entienden que la IA representa un prospecto económico inmejorable. Microsoft es propietario del 49% de OpenAI luego de que esta lanzó un brazo con fines de lucro en 2019 y la compañía fundada por Bill Gates invirtió U$S 11 mil millones en 2019. Lo usual es que compañías como Microsoft absorban a start-ups como OpenAI. Este acuerdo le permite a Microsoft evitar posibles litigios antimonopólicos, pero su acceso no exclusivo a las innovaciones de OpenAI ha generado incomodidad. Por su acuerdo, Microsoft obtiene acceso temprano a las innovaciones de OpenAI, que puede luego comercializarlas en el libre mercado y recibe el apoyo económico de una megacorporación con bolsillos casi ilimitados.
IA y privacidad
Según la compañía, la información ocular que extrae el escáner de la compañía se convierte en una serie alfa-numérica única, llamada un "iris-hash," que no puede vincularse a su propietario de manera retroactiva. Este código se almacena para ser comparado con otros en una base de datos; si al escanear, no se encuentra este código ya presente en la base de datos, se confirma la humanidad del globo ocular escaneado y, una vez en funcionamiento pleno, el usuario recibiría un bloque de Worldcoin de un valor aproximado de U$S20.
Según Worldcoin, han desarrollado procesos criptográficos de vanguardia que preservarán la privacidad de sus usuarios, aunque su seguridad recibió críticas por parte de Edward Snowden y otros especialistas en criptografía. Si bien, a diferencia de Google o Meta, Worldcoin promete no comercializar la información privada de sus usuarios-en este caso, de sus globos oculares-esto podría cambiar en el futuro.
A nivel conceptual, Worldcoin construye y resuelve por anticipado una empobrecida interpretación del "juego de imitación," también llamada la "prueba de Turing" en homenaje a su creador, el brillante matemático británico Alan Turing. En esta, un usuario debe observar una conversación vía texto entre una computadora y un humano. De no poder con fidelidad determinar cuál de los participantes es máquina y cuál persona, se consideraría, según la prueba, que la computadora evidencia una característica clave de la inteligencia artificial. Esta prueba, sin embargo, depende para ser efectiva de varias condiciones: la conversación debe ser íntegramente textual y evaluada a ciegas, ya que, por el momento, una máquina no puede simular humanidad de manera física o sensorial. Visto a esta luz, Worldcoin se muestra como una apuesta pesimista por un futuro lejano y, por el momento, ilusorio. Si bien las IA pueden generar reproducciones de ‘baja resolución' de los contenidos con los que fueron entrenadas, no son más que borrosas copias de ese material preexistente con alta susceptibilidad a la imprecisión.
Ese material utilizado para desarrollar y sofisticar la comprensión y el uso del lenguaje de GPT-4 y otras IA ha sido con frecuencia de carácter propietario. Su uso para este propósito es, entre otras cosas, un motivador central para el paro de guionistas y actores de Hollywood ocurriendo al momento de redacción. Los líderes de industrias ‘creativas' como el cine y la industria editorial ven a la IA como una manera de bajar costos al reducir o eliminar roles humanos. Sin embargo, para que esto pueda suceder, debe entrenarse a la IA en material propietario, y la gran mayoría de los productores de ese material son reacios a permitir este uso de su propiedad intelectual. La IA, visto desde esta perspectiva, emerge como un problema de automatización laboral. El apocalipticismo de Altman, Musk y asociados, que trata la automatización como un hecho inevitable y no un problema histórico en debate hoy día, refleja así su interés por ver el éxito totalizante de sus productos.
Please do not cut or paste our notes on the web, you have the possibility to redistribute them using our tools.
Musk demandó al creador de ChatGPT por "traición" y crece la pelea interna en las empresas de IA
