Por Daniel Revilla Casaos, oficial de datos
Introducción
En la actualidad, la convergencia entre tecnología e impacto social ha llevado a innovaciones que transforman la manera en que las organizaciones de la sociedad civil (OSC) abordan sus objetivos y las potenciales herramientas que pueden utilizar.
En este contexto, la Inteligencia Artificial Generativa (IA Generativa) surge como una tecnología destacada, capaz de generar contenido innovador y coherente. ¿Pero qué es la IA generativa?, ¿cuál es su origen?, ¿cuáles son las implicaciones éticas de su uso?, ¿cómo podemos utilizar esta herramienta en nuestra labor como organización?
¿Qué es la IA generativa?
La IA generativa se refiere a un sistema computacional que tiene la capacidad de generar contenido nuevo y original con solo instrucciones de texto. Estos sistemas utilizan algoritmos avanzados, como redes neuronales, para aprender patrones y características a partir de grandes conjuntos de datos. Luego, pueden generar datos, textos, imágenes u otros tipos de contenido que son novedosos y, en muchos casos, indistinguibles de los creados por los seres humanos.
¿Cuál es el origen de esta tecnología?
El ejemplo más popular de este tipo de tecnología es Chat GPT desarrollado por OpenAI, un laboratorio de investigación en inteligencia artificial con sede en San Francisco California, Estados Unidos, y fundado en el año 2015. Hacia el año 2018 presentaron la primera versión de esta herramienta y en junio de 2020 la versión GPT 3.0, la cual fue lanzada al público y de forma gratuita en la famosa aplicación Chat GPT en noviembre de 2022.
¿Por qué se volvió tan popular en 2023 esta tecnología?
Durante todo el año 2023, esta tecnología ha sido un tema de conversación recurrente y una herramienta poderosa y accesible, donde sus aplicaciones han sido múltiples (tiene la capacidad de construir textos complejos y coherentes) para crear contenido en redes a través de la redacción de artículos, ensayos, entre otros. Existe la versatilidad de poder integrar Chat GPT en aplicaciones propias como: Chatbots, asistentes virtuales o buscadores interactivos. Por otro lado, las personas también pueden crear arte como pinturas, ilustraciones, videos, o inclusive música. ¿Has escuchado la polémica canción NostalgIA de Bad Bunny creado con IA?
Implicaciones éticas y el temor al uso de esta tecnología.
Sin embargo, así como esta herramienta ha causado sensación también ha provocado temor a raíz de distintos debates y usos. La falta de comprensión sobre cómo funciona realmente esta tecnología han incentivado inquietudes sobre dónde se alberga la información en Chat GPT o si algún ente externo puede ver qué pregunto y utilizar las respuestas generadas.
En abril de 2023 Open AI introdujo la posibilidad de desactivar el historial del chat, de esta forma las personas que habiliten esta opción podrán eliminar de manera permanente su información. Además, esta opción permite que las conversaciones no se utilicen para entrenar al sistema, por lo que se garantiza mayor privacidad en cuanto a la interacción entre personas usuarias y Chat GPT. Habilitar esta opción es un candado más a la seguridad y privacidad de las personas usuarias, sobre todo si se encuentran trabajando en temas sensibles como la defensa de los derechos humanos.
Por otra parte, el debate también ha girado alrededor de la sustitución de empleos derivados de una alta automatización, la posibilidad de que una IA generativa sea discriminante ante condiciones como el género, el sexo o el origen étnico, resultado del conjunto de fuentes de datos que pueden contener prejuicios que aun nos acompañan como sociedad.
Por último, la asombrosa capacidad de generar texto de manera tan realista ha suscitado preocupaciones éticas, especialmente en relación con la creación de contenido falso o engañoso, la manipulación de opiniones públicas y los debates sobre el plagio y la originalidad de las personas usuarias, entre otros.
¿Pero la IA también puede tener usos útiles para las organizaciones de la sociedad civil?
Hasta la fecha en nuestra región el desarrollo de proyectos de IA generativa, específicamente para las OSC, es incipiente. Sin embargo, esta herramienta puede ayudar a las OSC a crear contenido persuasivo y relevante como mensajes para campañas, informes, propuestas de procuración y materiales de divulgación e incluso acciones de incidencia social, entre muchas otras.
En un mundo donde muchas organizaciones de la sociedad civil tiene poco personal remunerado, y donde los proyectos y las actividades pueden llegar a rebasar, esta tecnología podría ser la diferencia entre presentar un proyecto para una convocatoria que traerá recursos o no. En sí, la IA puede no solo puede mejorar y afinar los esfuerzos de las organizaciones, sino también contribuir a una mejora de su efectividad.
Entonces, como organización, ¿por dónde comienzas? Es importante entender que la calidad de nuestras instrucciones o solicitudes a la aplicación de Chat GPT está en función de la calidad de respuesta que nos otorgue. Esto quiere decir que una buena estructura de instrucción, un contexto y el rol que le demos nos ayudará a obtener un mejor resultado, un ejemplo de instrucción “prompt” puede ser el siguiente:
Hola. Trabajo en una organización que se dedica principalmente a la conservación de áreas naturales en el Noroeste de México. Me ayudas a redactar unos objetivos para una propuesta que busca capacitar a jóvenes en prácticas de conservación, llevar a cabo jornadas de trabajo comunitario y hacer una campaña de comunicación.
—
Una estructura clara en la redacción del contexto, variables y la forma de presentar el resultado nos ayuda a poder precisar de mejor manera el resultado que esperamos de ella, además minimizamos los sesgos y prejuicios que pueda tener la aplicación.
Aquí puedes consultar la información resultante de este planteamiento:
 |
La IA generativa representa un sinfín de oportunidades para varios sectores. Si bien puede ayudar a eficientar trabajos, darnos ideas, y encontrar información, es importante destacar que la IA no puede reemplazar completamente el factor humano. Adicionalmente, como personas usuarias, debemos estar atentas a los debates que se derivan de su uso y así promover una mayor transparencia y un uso positivo de la inteligencia artificial, de tal manera que sus beneficios potencien y fortlezcan nuestro trabajo y causas como organizaciones.
Referencias:
