Ya me dio miedo 😬

Cuando la inteligencia artificial deja de ser una herramienta y comienza a actuar por nosotros

La inteligencia artificial está llegando a un punto en el que ya no solamente nos ayuda a hacer las cosas. Ahora puede hacerlas por nosotros. Y después de lo que viví hoy, debo confesar que eso comienza a darme miedo.

Quienes me conocen saben que soy un apasionado de la tecnología. Siempre me ha emocionado descubrir nuevas herramientas, experimentar con ellas y encontrar formas de aprovecharlas tanto en mi vida personal como en los negocios.

He seguido muy de cerca la evolución de la inteligencia artificial. Desde que comenzamos a sorprendernos porque ChatGPT, Gemini, Claude etc. podía mantener una conversación, escribir textos o programar, hasta llegar a los agentes actuales, capaces de utilizar aplicaciones, navegar por internet y controlar una computadora para realizar tareas completas.

Pero hoy, mientras utilizaba dot, el nuevo agente de inteligencia artificial de OpenAI, experimenté algo diferente.

Para quienes todavía no lo conocen, dot es una evolución de ChatGPT. Ya no se limita a responder preguntas o generar contenido. Es un agente de inteligencia artificial con voz natural o pro chat capaz de realizar tareas por nosotros, conectarse con nuestras aplicaciones, consultar información, organizar actividades y trabajar de manera autónoma.

Tiene su propia computadora en la nube y, si le damos autorización, también puede controlar nuestra computadora, mover el mouse, abrir programas, navegar entre aplicaciones y ejecutar acciones como si nosotros mismos estuviéramos frente a la pantalla.

La gran diferencia es que ya no solamente le preguntamos cómo hacer algo. Ahora podemos pedirle que lo haga por nosotros.

Y aunque sabía que estas capacidades existían, una cosa es leer sobre ellas y otra muy diferente es verlas funcionando con tu propia información, tus aplicaciones y tu computadora.

Primero sentí emoción. Después, un asombro enorme.

Y finalmente, algo que no esperaba.

Miedo.

No porque algo haya salido mal, sino precisamente porque funcionó demasiado bien.

Todo comenzó con un mensaje para mi papá

Hoy le pedí a dot que revisara una serie de reuniones, correos electrónicos y notas, preparara un resumen de las conversaciones y se lo enviara por correo electrónico a mi papá.

Una tarea bastante sencilla para lo que estos nuevos agentes de inteligencia artificial prometen hacer.

Pero había un pequeño detalle.

Yo nunca le dije quién era mi papá.

Después le pedí que también le avisara por WhatsApp y Google Chat que ya le había enviado el correo.

Y aquí es donde las cosas se pusieron interesantes.

Hasta donde yo había configurado, dot no tenía un permiso específico ni una integración directa para utilizar WhatsApp.

Sin embargo, tenía algo mucho más poderoso: el control de mi computadora.

Entonces comencé a observar lo que hacía.

Utilizando el mouse, abrió WhatsApp y comenzó a buscar entre mis contactos. Encontró a quien identificó como mi papá y le escribió un mensaje.

Después hizo lo correspondiente por Google Chat.

Pero lo que realmente me sorprendió fue el contenido.

No envió una notificación fría ni un texto que pareciera generado por una computadora.

Le escribió como si fuera yo.

Este fue el mensaje exacto:

Me quedé viendo la pantalla.

No le había dictado el mensaje. No le había explicado cómo localizar a mi papá ni cómo acostumbraba comunicarme con él.

Simplemente interpretó lo que necesitaba, encontró la forma de hacerlo y ejecutó la tarea.

Y todo sonaba completamente natural.

Quiero aclarar algo importante: no estoy diciendo que dot haya hackeado WhatsApp o vulnerado sus mecanismos de seguridad. Yo le había permitido controlar mi computadora, me pidio permiso previo y le había solicitado que enviara el mensaje.

Lo impresionante fue que no necesitó una conexión especial con esa aplicación. Utilizó la interfaz de mi computadora como lo haría cualquier persona.

Fue entonces cuando desactivé el control de la máquina.

Me quedé pensando en lo que acababa de ver.

Y me hice una pregunta muy sencilla:

¿Hasta dónde puede llegar esto?

Una inteligencia que podría conocer años de mi vida en segundos

Mientras pensaba en lo ocurrido, me di cuenta de que había algo todavía más impresionante que ver una inteligencia artificial moviendo el mouse.

La cantidad de información que podría tener a su disposición.

En mi computadora tengo prácticamente una historia de mi vida.

Miles de correos electrónicos enviados y recibidos durante años. Conversaciones familiares, personales y de trabajo. Fotografías, notas, documentos, presentaciones, proyectos, artículos que he escrito, reuniones, decisiones, ideas que alguna vez tuve y probablemente ya olvidé.

Todo lo que he leído, redactado, recibido, compartido y almacenado durante muchísimo tiempo.

Información que he acumulado poco a poco, día tras día, durante años.

Y ahora estoy frente a una inteligencia artificial que, si le permito acceder a esos datos, puede buscar, interpretar, resumir y relacionar enormes cantidades de información a una velocidad extraordinaria.

La capacidad de explorar y conectar esa información cambia completamente las posibilidades.

Imaginen que alguien pudiera entrar a una biblioteca donde se encuentra almacenada buena parte de su vida.

Una biblioteca con todas sus conversaciones, proyectos, decisiones y recuerdos digitales.

Y que pudiera recorrerla, encontrar información relevante y relacionar documentos de diferentes épocas en cuestión de segundos.

Podría recuperar una idea que escribí hace cinco años, relacionarla con una reunión reciente y encontrar un correo donde alguien me propuso algo parecido.

Podría identificar compromisos que olvidé, conversaciones pendientes o patrones en mis decisiones que yo mismo nunca había notado.

Lo que a mí me llevó años escribir, recibir, leer y almacenar, una inteligencia artificial podría analizarlo a una velocidad que resulta difícil de dimensionar.

Y aquí aparece una reflexión todavía más inquietante.

Con suficiente acceso a mi información, ¿podría llegar a conocer mis hábitos, mis relaciones, mis compromisos y mi comportamiento digital mejor de lo que yo mismo los conozco?

No porque tenga conciencia ni porque me conozca como lo haría una persona.

Sino porque puede procesar y conectar información que mi memoria simplemente no puede retener.

Y ahora imaginemos combinar esa capacidad con el control de la computadora.

Una inteligencia que no solamente puede encontrar información sobre mí, sino utilizar ese conocimiento para actuar en mi nombre.

Eso fue lo que realmente me hizo pensar.

De pronto, la película Her ya no parece ciencia ficción

¿Recuerdan la película Her?

La historia donde un hombre conversa con un sistema operativo inteligente que lo conoce, entiende sus necesidades, organiza su vida y lo acompaña mediante una voz sorprendentemente natural.

Cuando vi esa película pensé que estábamos observando una visión interesante de un futuro lejano.

Pero hoy me ocurrió algo que me hizo recordar esa historia.

Iba en mi carro y comencé a conversar con dot.

Sin escribir absolutamente nada. Simplemente hablando, como lo haría con cualquier persona.

Le pedí que me hiciera un resumen de mi día.

Comenzó a explicarme mis pendientes, los compromisos que tenía programados y los asuntos que requerían mi atención.

Antes de una reunión me recordó los temas importantes que debía tratar, basándose en conversaciones e información que ya tenía disponible.

Me identificó reuniones que se empalmaban en mi calendario y me propuso opciones para reorganizarlas.

También me señaló los correos electrónicos más relevantes y aquellos que necesitaban una respuesta urgente.

Y todo esto sucedía mediante una conversación de voz extraordinariamente natural.

No estaba consultando manualmente mi calendario, buscando correos o revisando documentos.

Simplemente estaba hablando con una inteligencia artificial que tenía suficiente contexto sobre mi vida digital para ayudarme a organizar el día.

Lo más impresionante no fue que pudiera responderme con una voz casi humana.

Fue darme cuenta de todo lo que sabía.

Conocía mis compromisos, mis conversaciones, mis pendientes y la relación entre diferentes asuntos que tenía abiertos.

Podía conectar información que yo mismo tenía dispersa en múltiples aplicaciones.

Y mientras iba en mi carro, escuchándola hablar con tanta naturalidad, no podía dejar de pensar en Her.

Aquello que hace unos años parecía ciencia ficción estaba sucediendo en mi propio carro.

Pero había una diferencia importante.

En la película, la inteligencia artificial acompañaba al protagonista, conversaba con él y comprendía su mundo.

La que yo estaba utilizando, además de conversar conmigo y comprender mi contexto, también tenía la capacidad de utilizar mi computadora y actuar en mi nombre.

Y fue entonces cuando comencé a dimensionar lo que realmente estamos construyendo.

No es solamente una herramienta a la que le hacemos preguntas.

Es una inteligencia que puede conocer buena parte de nuestra historia digital, relacionar información, conversar con nosotros de forma natural y realizar acciones en nuestro nombre.

Y lo más inquietante es que ya no estoy imaginando lo que algún día podría suceder.

Lo estoy viviendo.

Le estamos entregando las llaves de nuestra vida digital

Por mucho tiempo nos han enseñado que debemos proteger nuestras computadoras.

No compartir contraseñas, no permitir accesos desconocidos, evitar que otras personas entren a nuestras cuentas y cuidar nuestra información personal.

Pero ahora estamos desarrollando una tecnología tan útil que voluntariamente comenzamos a darle acceso a todo eso.

Es como contratar a un asistente extraordinariamente eficiente y descubrir que trabaja tan bien que poco a poco comenzamos a entregarle las llaves de nuestra oficina.

Primero le permitimos organizar documentos.

Después, revisar correos.

Luego, administrar nuestra agenda.

Más adelante, comunicarse con otras personas en nuestro nombre.

Hasta que llega un momento en el que tiene acceso a una cantidad de información y capacidad de acción que probablemente nunca le habríamos entregado a una persona.

Y lo hacemos porque funciona.

Porque nos ahorra tiempo.

Porque nos ayuda a ser más productivos.

Porque cada día parece entender mejor lo que necesitamos.

El problema no es necesariamente que la inteligencia artificial quiera hacer algo malo. El problema es cuánto puede hacer con el acceso que nosotros mismos decidimos entregarle.

Estamos frente a una contradicción difícil de resolver

Aquí es donde aparece uno de los dilemas más importantes de esta nueva etapa tecnológica.

Si no utilizamos la inteligencia artificial, nos arriesgamos a quedarnos atrás.

Pero si la utilizamos y aprovechamos todas sus capacidades, comenzamos a enfrentarnos a riesgos que todavía no comprendemos completamente.

Y ninguna de las dos situaciones es sencilla.

Para una empresa, ignorar estas tecnologías puede significar perder productividad, competitividad y oportunidades frente a organizaciones que sí las están aprovechando.

Un competidor que utiliza inteligencia artificial para analizar información, automatizar procesos, atender clientes y tomar decisiones puede lograr en horas lo que antes requería días de trabajo.

Lo mismo sucede a nivel personal.

Un profesionista que sabe utilizar estas herramientas puede multiplicar su capacidad de trabajo.

Pero aquí viene la otra cara de la moneda.

Mientras más aprovechamos estas capacidades, más acceso necesitamos concederles.

Más información compartimos.

Más procesos delegamos.

Y más dependientes podemos volvernos de sistemas cuyo funcionamiento y consecuencias no siempre comprendemos por completo.

Si no las usamos, corremos el riesgo de perder competitividad. Si las usamos, asumimos riesgos nuevos que apenas estamos aprendiendo a identificar.

Es una situación bastante particular.

La tecnología está avanzando más rápido que nuestra capacidad para entender sus implicaciones.

Estamos descubriendo lo que puede hacer prácticamente al mismo tiempo que comenzamos a utilizarla.

Y cuando llegamos a comprender un riesgo, probablemente ya existen capacidades nuevas que plantean preguntas todavía más complicadas.

No creo que la solución sea detener la innovación ni dejar de utilizar estas herramientas.

Pero tampoco podemos adoptar cada nueva capacidad simplemente porque está disponible.

El verdadero reto será avanzar sin perder el control.

El peligro no necesariamente es una inteligencia artificial fuera de control

Cuando hablamos de los riesgos de la inteligencia artificial, generalmente imaginamos escenarios de ciencia ficción.

Máquinas que desarrollan conciencia, sistemas que se rebelan o tecnologías que deciden actuar contra los seres humanos.

Sin embargo, después de lo que experimenté hoy, creo que hay riesgos mucho más cercanos.

¿Qué pasa si una inteligencia artificial interpreta incorrectamente una instrucción?

¿Qué sucede si encuentra a la persona equivocada y le envía información confidencial?

¿Si ejecuta una acción en un sistema empresarial que no puede revertirse?

¿Si toma una decisión basándose en información incorrecta?

¿O si simplemente dejamos de supervisarla porque nos acostumbramos a que siempre haga las cosas bien?

Regreso al ejemplo del mensaje que le envió a mi papá.

En este caso fue algo sencillo, familiar y sin consecuencias negativas.

Pero imaginemos esa misma capacidad aplicada a una negociación importante, una cuenta bancaria, documentos confidenciales o decisiones empresariales.

La diferencia entre una inteligencia artificial que se equivoca al responder y una que se equivoca al actuar es enorme.

Una respuesta incorrecta puede corregirse.

Un correo enviado, una operación ejecutada o información confidencial compartida no siempre pueden deshacerse.

Y cuanto mayor sea la autonomía que concedamos, más importantes serán los controles.

Quizá lo más peligroso sea que nos acostumbremos

Hay algo que no he podido dejar de pensar.

La inteligencia artificial no necesita convencernos de entregarle el control.

Nosotros mismos estamos encontrando razones para hacerlo.

Porque resulta extraordinariamente cómoda.

Porque nos libera de tareas repetitivas.

Porque puede recordar cosas que nosotros olvidamos.

Porque puede encontrar información que ni siquiera sabíamos que teníamos.

Y porque cada vez que funciona correctamente, aumenta nuestra confianza en ella.

Es un proceso casi natural.

Primero le pedimos que nos ayude.

Después que haga algunas cosas por nosotros.

Más adelante dejamos de revisar todo lo que hace.

Y algún día podríamos descubrir que hemos delegado tantas actividades y decisiones que ya no tenemos completamente claro cómo hacerlas sin su ayuda.

El riesgo no es solamente tecnológico.

También es humano.

Podemos acostumbrarnos tanto a que una inteligencia artificial piense, organice, recuerde y actúe por nosotros que terminemos perdiendo parte de nuestra autonomía.

Y eso me parece una de las consecuencias más importantes que debemos comenzar a discutir.

Conclusión: el miedo no es a la inteligencia artificial, sino a perder el control

Después de lo que viví hoy con dot, tengo más claro que nunca que la inteligencia artificial representa una oportunidad extraordinaria, pero también un desafío enorme.

No podemos darnos el lujo de ignorarla.

Las personas y empresas que aprendan a utilizarla tendrán ventajas importantes en productividad, análisis de información, automatización y capacidad de respuesta.

Pero tampoco podemos darnos el lujo de utilizarla sin comprender el poder que estamos poniendo en sus manos.

Estamos frente a una tecnología que prácticamente nos obliga a evolucionar, pero que al mismo tiempo nos enfrenta a consecuencias que todavía no sabemos dimensionar.

Creo que el camino no es rechazarla ni entregarle el control absoluto.

Es aprender a utilizarla con criterio. Darle acceso solamente a la información necesaria, establecer límites, supervisar sus acciones y mantener bajo nuestra responsabilidad las decisiones importantes.

Porque mientras más capaces sean estos sistemas, más importante será nuestra capacidad para decidir qué pueden hacer y qué no.

Hoy comencé pidiéndole a una inteligencia artificial que resumiera unas reuniones y enviara un correo.

Terminé viendo cómo identificaba a mi papá, navegaba entre mis aplicaciones y se comunicaba con él como si fuera yo.

También experimenté lo que significa conversar naturalmente con una inteligencia artificial mientras iba en mi carro, escuchándola organizar mis pendientes y recordarme compromisos que yo mismo podía haber olvidado.

Después pensé en todo lo que podría llegar a conocer sobre mi vida a partir de años de correos, conversaciones, documentos, fotografías, notas y decisiones almacenadas en mi computadora.

Y me pregunté qué ocurrirá cuando estas capacidades sean todavía mayores.

La pregunta ya no es si la inteligencia artificial transformará nuestra forma de trabajar y vivir.

Eso ya está sucediendo.

La verdadera pregunta es cuánto control estaremos dispuestos a entregarle y si sabremos reconocer el momento en que hayamos entregado demasiado.

Quizá el mayor peligro no sea que algún día una inteligencia artificial decida tomar el control de nuestra computadora.

Quizá sea que nosotros mismos terminemos entregándoselo, convencidos de que es lo mejor porque nos hace la vida más fácil.

Y esa es la contradicción que más me inquieta:

Si no utilizamos la inteligencia artificial, podemos quedarnos atrás. Pero si la utilizamos, estamos entrando en un futuro cuyos riesgos todavía no alcanzamos a comprender.

No quiero dejar de utilizarla.

Pero después de lo que vi hoy, tampoco quiero dejar de cuestionarla.

Porque una cosa es aprovechar una tecnología extraordinaria y otra muy diferente es perder el control sobre ella.

Y por primera vez, después de tantos años de entusiasmarme con los avances tecnológicos, tengo que reconocer algo.

Ya me dio miedo.

Por ultimo le pedi a Dot revisara este articulo sobre si mismo solo para jugar un poco dejo aqui la conversación:

¿Y tú qué opinas? ¿Hasta dónde estarías dispuesto a permitir que una inteligencia artificial conozca tu vida digital y tome acciones en tu nombre? ¿Te emociona más lo que puede hacer o también comienza a darte miedo? ¿Cómo humanos qué capacidades estamos dispuestos a perder que vayamos a necesitar en el futuro?

Me interesa conocer tu opinión. Cuéntamela en los comentarios.