La IA se convierte en un riesgo emergente para las empresas públicas, advierte la SEC

Ciudad de México, 22-11-2024 |

Empresas enfrentan desafíos críticos con la adopción de inteligencia artificial, según la SEC

La Comisión de Bolsa y Valores de Estados Unidos (SEC) identificó a la inteligencia artificialcomo un riesgo emergente significativo para las empresas públicas, en medio de un creciente enfoque en cómo esta tecnología impacta la seguridad, las operaciones y la estabilidad financiera de las compañías. Esta advertencia refleja las preocupaciones sobre los desafíos asociados con los avances en IA, particularmente en empresas que dependen de modelos de lenguaje grandes (LLM) y servicios tecnológicos externos.

Un ejemplo destacado es ServiceTitan, una startup de servicios en la nube, que en su reciente prospecto de oferta pública inicial (IPO) dedicó más de 1,150 palabras a detallar los riesgos relacionados con la IA. La empresa identificó posibles problemas como la generación de información inexacta, comportamientos discriminatorios en los modelos y vulnerabilidades en materia de derechos de autor. Asimismo, advirtió sobre riesgos de seguridad asociados con el uso indebido de datos confidencialespor parte de empleados y contratistas, además de posibles ataques cibernéticos que podrían comprometer la privacidad de la información.

Otro punto crítico señalado tanto por ServiceTitancomo por la SEC es la dependencia tecnológica de proveedores externos como Microsofty OpenAI. Cualquier fallo, problema de rendimiento o modificación en los términos de servicio de estos proveedores podría afectar gravemente las operaciones de las empresas que confían en sus servicios.

Por otro lado, la incertidumbre regulatoria representa un obstáculo para el desarrollo de soluciones basadas en IA. Según el prospecto de ServiceTitan, la implementación de normativas más estrictas en el futuro podría aumentar los costos operativos, restringir la innovación y disminuir la competitividad. Estas preocupaciones se agravan debido a la falta de un marco legal claro sobre el uso y desarrollo de la IA, lo que deja a las empresas expuestas a posibles riesgos legales y financieros.

Uno de los desafíos es el reclutamiento de talento especializado en inteligencia artificial. La creciente demanda de expertos en IA, sumada a la alta competencia en el sector tecnológico, está incrementando los costos de contratación. ServiceTitan reconoció que la falta de personal capacitado podría comprometer su capacidad para desarrollar soluciones innovadoras y mantener su posición competitiva en el mercado.

Estos riesgos no son exclusivos de ServiceTitan. La SEC subraya que muchas empresas que adoptan la IA enfrentan un equilibrio complejo entre los beneficios potenciales de la tecnología y los riesgos éticos, operativos y financierosasociados con su implementación temprana.

Conforme lainteligencia artificial se convierte en un componente central de las estrategias corporativas, tanto la SEC como las empresas públicas deberán abordar estos desafíos con cautela. Encontrar un equilibrio entre la adopción tecnológica y la mitigación de riesgos será clave para garantizar la sostenibilidad en un mercado en constante evolución.