Se siente como si apenas hubiera pasado un instante desde que un chatbot torpemente intentaba ayudarnos en el soporte de cualquier sitio web, hasta ver un chat como GPT-4 que, de manera destacada, aprobó el examen estandarizado para convertirse en abogado en Estados Unidos.
El crecimiento acelerado de la IA ha sido tan impresionante que más de 1000 líderes, como Elon Musk, Yuval Harari, Steve Wozniak, entre otros, han firmado una carta solicitando una pausa en el desarrollo de los modelos, mientras se establecen protocolos de seguridad y auditoría (aunque es poco probable que esto suceda).
Como seres humanos, no estamos preparados para cambios fundamentales abruptos, y eso es precisamente lo que representa este cambio de paradigma tecnológico, del cual todavía no hemos comprendido completamente todas sus implicaciones en el mundo laboral y en las relaciones entre individuos.
Los primeros pronósticos se relacionan con las tareas que solían ser realizadas por humanos y que ahora son más propensas a ser automatizadas a una fracción del costo, lo que tiene implicaciones en la definición de roles y en la necesidad de una capacitación profunda (reskilling) para gran parte de la fuerza laboral. Una solución basada en GPT-4 u otro modelo similar ya puede leer un contrato legal de 200 páginas en una fracción de segundo y, a partir de ahí, identificar vacíos y recomendar aclaraciones. Tal vez no elimine a todos los abogados de una empresa, pero si antes se necesitaban 3, ahora solo se necesitará uno.
La IA y el comportamiento humano
Surge un nuevo concepto: la IA como “copiloto” en lugar de un reemplazo. Incluso varias soluciones ya utilizan este término en sus productos, como Github Copilot o Microsoft Copilot. Star Wars lo predijo, sin R2D2 como copiloto de Luke, la historia sería diferente.
Otro resultado posible de este avance en la IA multimodal es la proliferación de superbots en las redes sociales. Esto no es nuevo, pero lo nuevo es que serán capaces de interactuar y hacerse pasar por seres humanos, engañando a los algoritmos de estas plataformas (que, a su vez, son otras IA) y, sobre todo, engañando a los seres humanos reales en esas plataformas.
Este ataque se basa en explotar una característica humana llamada “mentalidad de rebaño” o sesgo de conformidad, que nos ha ayudado a sobrevivir como especie durante miles de años. Se refiere a nuestra tendencia a imitar el comportamiento y el pensamiento de un grupo cuando percibimos un consenso fuerte en esa acción o idea. En otras palabras, las personas hacemos y creemos ciertas cosas simplemente porque muchas otras personas hacen y creen esas mismas cosas.
Ejemplos cotidianos de esto son cuando entramos a un restaurante porque está lleno o cuando vemos a varias personas mirando al cielo y no podemos evitar hacer lo mismo.
La evolución de la IA
La rápida evolución de la IA ha superado con creces el desarrollo de marcos de identidad digital y sistemas de confianza. De hecho, el propietario de Twitter ve como única alternativa pagar para obtener verificación, a fin de evitar la avalancha de bots que inundarán la red social y causarán todo tipo de efectos nocivos en las conversaciones globales. Sin embargo, no se da cuenta de que esto también traería sus propios inconvenientes, ya que sería una identidad centralizada que no pertenece a los usuarios, y al establecer un precio para mantenerse verificado, se está creando una barrera que impide que las personas sin recursos participen en ese espacio (lo cual puede ser legítimo en una empresa privada, pero no deseable en una red social que pretende ser una plataforma para la conversación pública).
Podría interesarte: Por qué contratar Acreditta en lugar de construir un desarrollo propio
No alt text provided for this image Sin embargo, no estamos condenados a depender siempre de Twitter, Facebook o Google para nuestra identidad en el mundo digital:
Surge un nuevo estándar de identidad digital
Hace unos años, comenzó a desarrollarse un estándar abierto llamado “credenciales verificables”, liderado por la organización W3C (World Wide Web Consortium) y la DIF (Decentralized Identity Foundation). Estas credenciales verificables llevan al mundo digital la capa de confianza e identidad que hemos resuelto en el mundo físico con diplomas, licencias de conducir, pasaportes, DNIs, certificados y otros elementos que demuestran nuestras capacidades o características validadas por terceros.
Estas credenciales verificables permiten llevar todos estos casos de uso (y algunos aún sin explorar) al entorno web, con tecnologías que mejoran las credenciales físicas de varias maneras:
- Seguridad criptográfica: Son imposibles de falsificar o alterar gracias a la verificación basada en tecnología blockchain. La mayoría de las soluciones incluso agregan un hash a una red descentralizada como ancla para proporcionar nuevas funcionalidades a la credencial.
- Privacidad: Las personas son las custodias y dueñas de sus credenciales, y los datos que contienen no se encuentran en ninguna blockchain pública (solo se utiliza un hash como ancla, como máximo).
- Prueba de conocimiento cero (Zero Knowledge Proof): Otra característica de privacidad que permite a las personas presentar solo la información relevante de la credencial o incluso presentar una prueba sin revelar ninguno de los datos originales.
- Verificación instantánea: Cualquier tercero que desee verificar la validez de una de estas credenciales puede hacerlo sin necesidad de contactar a la organización que la emitió, ya que la prueba criptográfica está integrada en la propia credencial verificable.
- Portabilidad e interoperabilidad: Al ser un estándar abierto, las carteras digitales ya están implementando este formato. De esta manera, la persona propietaria de la credencial puede elegir qué cartera utilizar o dónde almacenarla.
Las credenciales verificables en la era de la IA
La Comisión Europea ya ha adoptado este estándar para los diplomas de sus universidades y las identidades de sus países, y la OCDE está recomendando a sus países miembros que adopten una gobernanza adecuada sobre la identidad digital.
La IA tiene un enorme potencial para beneficiar a la humanidad, pero también puede plantear desafíos complejos como los mencionados anteriormente. En ambos escenarios, las credenciales verificables pueden desempeñar un papel importante:
En el caso de la “IA como copiloto” que automatiza tareas que antes realizaban las personas, la necesidad de adquirir nuevas habilidades requiere capturar esos conocimientos en forma de microcredenciales o insignias digitales de manera más detallada. Para manejar la velocidad a la que esto puede ocurrir y el volumen de personas que podrían perder sus empleos, es necesario que los nuevos conocimientos puedan ser fácilmente leídos por sistemas de reclutamiento y verificados al instante utilizando el formato de credenciales verificables. La verificación humana actual a través de llamadas telefónicas con las instituciones no es viable en este contexto.
En el caso de la IA que suplanta a los humanos en las redes sociales, una solución podría ser priorizar las interacciones de los usuarios que presenten su DNI en formato de credencial verificable. Para esto, es necesario que los países sigan el ejemplo de Europa y las recomendaciones de la OCDE. Alternativamente, podrían surgir empresas privadas que realicen un proceso de verificación de identidad (KYC) y emitan credenciales verificables que funcionen como proxies de una identidad única verificada.
Para concluir…
Más allá de estos escenarios, este estándar abierto ofrece posibilidades emocionantes y casos de uso que devuelven el poder a las personas y equilibran la balanza en una época en la que los datos personales se han utilizado indiscriminadamente sin tener en cuenta al propietario de dichos datos. Todo lo que logramos en nuestra vida académica y profesional forma parte de nuestra identidad, y como la identidad es un derecho humano, debemos prestar atención a estos protocolos que fortalecerán nuestra forma de relacionarnos en la sociedad digital.
León Hernández
Product Lead Acreditta
