¿Cómo evitar una catástrofe de ChatGPT?

Los modelos GenAI tienen el potencial de revolucionar los entornos empresariales, siempre y cuando exista control y moderación de humanos.

Es indispensable cumplir las políticas locales de IA y seguir los protocolos adecuados según lo establecido por cada gobierno.

Fiabilidad, privacidad y parcialidad: los tres retos de la IA.

Colombia, agosto de 2023. Sin duda, la inteligencia artificial ha acaparado los titulares en 2023. Se ha advertido de su potencial para provocar la extinción de la humanidad, se ha afirmado que supone una amenaza para la seguridad nacional, y uno de sus «Padrinos», Geoffrey Hinton, ha renunciado a Google. Los modelos generativos de IA (GenAI), como ChatGPT, parecen generar mucho debate en torno a su potencial para transformar nuestra vida cotidiana. Pero, ¿qué ocurre en el entorno empresarial? ¿Cómo aprovechar esta tecnología?

“La evolución de la GenAI está ocurriendo rápidamente, y aquellas empresas que no se adapten a tiempo quedarán rezagadas. Sería ideal que las organizaciones abrazaran esta avanzada tecnología en lugar de rechazarla. No obstante, esto no implica que una única solución sea adecuada para todas cuando se trata de modelos de GenAI. Ciertamente, existen varios retos, que mencionaremos más adelante y que deben resolverse antes de que estos modelos sean ampliamente adoptados en entornos empresariales”, asegura Rafael Castillo, country manager de Infor en Colombia.

Aunque la IA Generativa, que no es otra cosa que generar contenido original como textos e imágenes a partir de data existente, es aún bastante incipiente, nos encontramos sin duda en un punto de inflexión. El procesamiento del lenguaje natural (PLN) que busca que las máquinas comprendan y manipulen el lenguaje humano está causando sensación. En multitud de sectores, estos modelos GenAI pueden ayudar a facilitar la búsqueda de información a los usuarios y a proporcionar una capacidad de búsqueda en toda la empresa basada en PLN sobre los datos empresariales.

Así, tareas que antes parecían impensables fueran realizadas por máquinas, hoy es posible tales como: redactar correos electrónicos, informes, documentación de productos y contenidos web; crear descripciones de puestos de trabajo y solicitudes; realizar comparaciones de productos y proveedores; montar fotos, pistas de música y vídeos para campañas de marketing; y resumir libros, revisar y corregir cualquier contenido, entre múltiples opciones que permitan poner en marcha una iniciativa.

Y aún más increíble resulta pensar que la tecnología, por sí sola, bueno, basada en datos, pudiera captar los modismos y dialectos colombianos por la data que obtiene en texto y audio para que pueda ser entendida por los motores de procesamiento. Esto lo hace Cari, un chatbot que entiende el significado de ‘parce’, ‘eche’, y ‘ajá’. Pero lo importante de todo esto es analizar los retos a futuro que este panorama supone, por ello Infor se dio a la tarea de clasificarlos:

GenAI en acción y los retos del futuro

¿Cómo se ve esto en la práctica? Bueno, por ejemplo, las empresas con departamentos de TI e ingeniería de software pueden iniciar una práctica saludable de aprovechamiento de herramientas, como Copilot de Microsoft o CodeWhisperer de AWS para la generación de código. Las empresas que necesiten crear sus propios modelos de lenguaje específicos para su sector, simplemente verificar información general, obtener reseñas y recomendaciones mediante la búsqueda de fuentes en la web, o que tengan la necesidad de combinar los datos privados de su empresa y enriquecerlos con información de dominio público, pueden integrarse con herramientas y plataformas GenAI como ChatGPT de OpenAI o AWS Bedrock.

1. Fiabilidad: aunque el contenido generado a partir de un gran modelo lingüístico parece original, en realidad está imitando un patrón basado en un conjunto de datos de entrenamiento similar al que ha sido expuesto. Muchas veces, se sabe que la información generada es falsa. Y la misma pregunta puede generar respuestas diferentes.

2. Privacidad: los datos y las condiciones de entrada que comparten los usuarios se utilizan para entrenar el modelo mayor. Así pues, pueden compartirse valiosos secretos comerciales de identificación personal, lo que inadvertidamente puede dar lugar a infracciones de la normativa. Además, la generación y el intercambio de contenido específico del negocio deben cumplir con estrictos requisitos legales y de privacidad de datos; por ejemplo, cuando las empresas realizan una Evaluación de Impacto de Protección de Datos (DPIA), deben garantizar el cumplimiento del Reglamento General de Protección de Datos (GDPR). La mayoría de los proveedores de plataformas GenAI ofrecen la posibilidad de mantener la información de la empresa en exclusiva y no utilizarla para fines de formación general del modelo, pero es importante que las compañías que tengan previsto utilizar GenAI lo tengan en cuenta.

3. Parcialidad: el contenido generado por la IA está hecho a medida en función de la solicitud de entrada. También se puede entrenar el modelo utilizando sólo puntos de datos favorables sin exponerlo al panorama completo. En última instancia, puede moldear el resultado de la forma que desee, tanto útil como perjudicial. El tono del contenido generado podría ser autoritario mientras que en realidad podría ser una opinión subjetiva y sería fácil manipular a un usuario crédulo e influir en sus opiniones de forma bastante convincente con GenAI.  Además, el riesgo de generar noticias, clips de vídeo y audio falsos será cada vez mayor.

Estos retos no son insuperables

Una forma de combatir estas amenazas es aplicar los filtros de moderación adecuados en la interfaz de usuario final a través de la cual los usuarios frecuentes pueden utilizar las herramientas GenAI. Y, sin duda, para el uso empresarial, se debe seguir un enfoque «humano en el medio», es decir, todo el contenido generado debe ser dirigido por una persona real antes de ser desplegado para su consumo habitual. El control y la moderación de humanos serán necesarios durante algún tiempo para aumentar la precisión y coherencia de los contenidos generados, ayudar a reducir los sesgos sociopolíticos y garantizar que la ventaja competitiva de una empresa no se vea comprometida.

“Considerando lo anterior, las compañías necesitan formular su propio enfoque respecto a cómo aplicar GenAI en sus operaciones. Además, será de suma importancia adoptar las mejores prácticas propuestas por los proveedores de GenAI, como por ejemplo, utilizar los filtros de moderación proporcionados por OpenAI. También estamos observando que distintos países están rápidamente creando sus propias políticas en relación a la Inteligencia Artificial (IA), algo que las empresas también deberán considerar. Esto implica garantizar la conformidad con las regulaciones locales de IA y seguir los procedimientos adecuados según lo establecido por los respectivos gobiernos”, Refuerza Castillo.

Rápida evolución de la GenAI

En cuanto a cómo evolucionará la IA Generativa en los próximos cinco a diez años, las inversiones en la tecnología aumentarán enormemente, tanto en términos de generación de mejores modelos como en el espacio del hardware, con chips más rápidos y potentes y la necesidad de más anchos de banda de red. “No hay que subestimar su impacto. Todo el contenido multimedia que consumiremos en los próximos años se verá influido por la GenAI; la búsqueda en Internet, tal y como la conocemos, se orientará más hacia una experiencia personalizada y conversacional; las herramientas que detectan contenido generado por la IA serán cada vez más inteligentes y la normativa y el cumplimiento de la misma serán cada vez más estrictos”, concluye el ejecutivo de Infor.

ChatGPT y otros modelos de GenAI representan soluciones disruptivas que ya están ayudando a los consumidores a refinar el proceso de búsqueda, automatizar la creación de contenidos e impulsar la productividad individual. Aunque esperamos que las empresas adopten rápidamente esta potente tecnología, también esperamos que sean conscientes de los riesgos potenciales, la imprecisión y los problemas de privacidad que conlleva. Naturalmente, es sólo cuestión de tiempo que el espacio GenAI madure y aborde estas preocupaciones.