Cómo garantizar la gobernanza de inteligencia artificial, según los expertos

Las distintas aplicaciones de la IA han incrementado la necesidad de contar con pautas y gobernanza, especialmente en materia de datos

De acuerdo conLuca De Biase, director de Media Ecology Research en Reimagine Europa, la gobernanza de inteligencia artificial se ha vuelto una necesidad pararegular y aprovechar las oportunidades de la tecnología. Bajo esta línea, durante la feria de tecnologíaSAS Explore 2023, el CTO de SAS,Bryan Harris, habló de la importancia de la gobernanza en este campo, sobre todo con respecto al uso de datos para la toma de decisiones.

La inteligencia artificial (IA), en sus aplicaciones degeneración de texto y automatización, ha experimentado una adopción importante en las actividades profesionales y cotidianas. Al depender de una gran cantidad de información, que puede provenir de distintos sectores, la gobernanza ha cobrado importancia para las empresas y organizaciones, indistintamente de su procedencia.

Mediante la red Forum Network de la Organización para la Cooperación y el Desarrollo Económicos (OCDE), De Biase comentó sobre las pautas para la gobernanza de IA. En primer lugar, cualquier producto que ofrezca alguna implementación de inteligencia artificial, deberá contar con unamarca sobre su origen y pasos para su producción.

Asimismo, será necesario someter la tecnología a un proceso de pruebas con agencias públicas independientes. Con este proceso, los expertos determinarán la seguridad de los programas y posibles brechas a nivel de softwarey hardware.

El vocero para la OCDE comentó que este tipo depruebas han sido indispensables para la tecnología aplicada a la salud, especialmente en el ámbito de lasfarmacéuticas. Por ello, con la ayuda de modelos de datos verificables, la gobernanza de IA podrá elegir la mejor ruta para realizar las pruebas con base en el tipo de productos.

Otra pauta consiste en mantener los supervisores humanos involucrados en las aplicaciones de inteligencia artificial, sin importar el grado de automatización. Este punto resulta importante no solo en materia de ciberseguridad, sino también detransparencia, ética, y responsabilidad social.

Finalmente, la participación del sector público y agencias independientes debe estar orientada dos tareas en materia de datos. La primera consiste en asegurar que la información de pruebas a las tecnologías seaconsultada por científicos independientes; mientras que la segunda será invertir en programas de educación sobre la IA.

Ante la complejidad de generar un sistema de gobernanza para la inteligencia artificial, el director destacó la importancia deinvolucrar tanto al sector público y gobierno, como a las empresas privadas. Por su parte, Bryan Harris agregó que la gobernanza de datos es un paso necesario para tomar decisiones a partir de las aplicaciones de inteligencia artificial. En este contexto se necesita contar con las medidas de control de la información para garantizar un producto seguro, y bajo una normativa de datos clara.

TecnologíaInteligencia ArtificialEmpresas