La startup de servicios en la nube, ServiceTitan, alerta sobre los riesgos asociados al uso de modelos de lenguaje grande (LLM) en sus productos. Las advertencias incluyen posibles problemas éticos, legales y de seguridad que podrían impactar su negocio.

ServiceTitan, una empresa que ofrece software de gestión para pequeñas empresas en la industria de servicios de campo, presentó el lunes su documentación para salir a bolsa ante la Comisión de Bolsa y Valores de Estados Unidos (SEC). En su prospecto de oferta pública inicial (IPO), la compañía destacó los posibles riesgos asociados al uso de inteligencia artificial (IA) generativa, específicamente los modelos de lenguaje grande (LLM), en sus operaciones y productos.

En una advertencia de más de 1.150 palabras, ServiceTitan reconoció que los LLM, utilizados en funciones como atención al cliente, marketing y gestión de relaciones con clientes (CRM), podrían generar información inexacta, comportamientos discriminatorios o infringir derechos de autor. Además, señaló que la dependencia de estos modelos expone a la compañía a posibles vulnerabilidades, como hackeos o filtraciones de datos sensibles.

Otro riesgo mencionado es la posibilidad de que sus empleados o contratistas compartan, de forma errónea, datos privados de los clientes con sistemas de terceros, lo que podría derivar en problemas de seguridad o en el uso indebido de esa información para entrenar modelos de IA. También advirtió que futuras regulaciones podrían aumentar los costos operativos de la empresa.

ServiceTitan depende de terceros como Microsoft y OpenAI para los servicios de IA. La compañía teme que problemas con estos proveedores o la falta de acceso a datos puedan afectar su capacidad para desarrollar y mantener sus productos de IA. Además, señaló que la contratación de expertos en IA, esenciales para su negocio, es complicada debido a la alta demanda y los altos costos asociados.

ServiceTitan, que ha ofrecido servicios impulsados por IA desde 2023 bajo el nombre Titan Intelligence, también lanzó en octubre un conjunto de agentes de IA para ventas, servicio al cliente y centros de llamadas. Sin embargo, reconoció que en esta etapa temprana de la adopción de IA generativa, los problemas podrían igualar o incluso superar los beneficios, lo que representa un desafío considerable para la empresa y sus inversores potenciales.

Con esta declaración, ServiceTitan no solo destaca los riesgos inherentes a la IA, sino que también subraya las oportunidades y desafíos que enfrenta la industria en general, especialmente en sectores como ventas, marketing y CRM, donde la IA está transformando rápidamente la manera en que las empresas operan.