ServiceTitan nombra a los LLM de Microsoft y OpenAI como factores de riesgo
Cada prospecto de IPO S-1 incluye una sección que enumera todo tipo de factores de riesgo que explican por qué sus acciones pueden no ser una buena compra. Muchas de ellas son advertencias repetitivas, advertencias sobre el desempeño financiero o actos de guerra y naturaleza. Pero algunos de ellos son más específicos de la empresa.
Con ServiceTitan, una startup de servicios en la nube que presentó documentos públicos de IPO ante la SEC el lunes, es posible que estemos presenciando el nacimiento de una nueva advertencia estándar: los LLM que ayudan a hacer crecer el negocio también podrían provocar daños.
ServiceTitan tenía un factor de riesgo de 1.150 palabras sobre cómo su uso de la IA, específicamente la IA generativa, podría afectar negativamente a su negocio. Advirtió que: el comportamiento alucinatorio del LLM podría producir información “inexacta” y participar en comportamientos “discriminatorios”; sus LLM podrían infringir los derechos de autor o la propiedad intelectual de otros; utilizar LLM significa exponer más datos a posibles ataques y daños; por otra parte, si no puede obtener suficientes datos, es posible que no pueda seguir ofreciendo productos de IA o construyendo otros nuevos. Además de eso, la compañía advierte que sus empleados o contratistas podrían compartir por error los datos privados de sus clientes con sistemas de terceros, lo que podría provocar violaciones de seguridad o el uso de esos datos para entrenar sus modelos.
ServiceTitan advierte que su uso de la IA algún día podría entrar en conflicto con cuestiones sociales y éticas. O que las futuras regulaciones podrían costarle dinero.
ServiceTitan también teme no poder contratar a los expertos en inteligencia artificial que necesita para sus productos e, incluso si pudiera, ese talento sería costoso. ServiceTitan advierte que sus productos de IA dependen de servicios de terceros que no controla, y nombra específicamente a Microsoft y OpenAI. Entonces, si dejan de estar disponibles o tienen problemas, eso también es un riesgo.
Estas advertencias son interesantes porque ServiceTitan opera en el nexo de las industrias que se espera que domine GenAI, específicamente los agentes de IA impulsados por LLM. ServiceTitan ofrece software para empresas de la industria de servicios de campo, en su mayoría pequeñas empresas, como contratistas de construcción, profesionales de HVAC, cuidado del césped y similares. Su software realiza funciones como marketing, gestión de relaciones con los clientes, atención al cliente y contabilidad. (ServiceTitan declinó hacer más comentarios).
Actualmente, los agentes de IA están avanzando tan furiosamente hacia todo lo relacionado con ventas, marketing y CRM que el rey del mercado de CRM, el director ejecutivo de Salesforce, Marc Benioff, dijo a TechCrunch que solo su empresa podría tener mil millones de agentes de IA trabajando en las empresas de los clientes de Salesforce en un año. .
ServiceTitan ha estado ofreciendo servicios basados en inteligencia artificial desde al menos 2023, llamados Titan Intelligence. En octubre, también lanzó un conjunto de agentes de inteligencia artificial para ventas, servicio al cliente y centros de llamadas.
Pero los LLM fueron diseñados para estudiar palabras, imágenes y datos y crear sus propias versiones de las cosas. Es decir, fueron diseñados para inventar cosas. Los científicos de OpenAI están ocupados corriendo hacia la inteligencia general, imitando la capacidad humana para inferir aún mejor, lo que significa que están trabajando en una IA que esperan que sea aún más creativa.
Claro, la confiabilidad de LLM para uso empresarial es algo que debería resolverse con el tiempo a medida que más empresas se especialicen en agentes donde la confiabilidad, no la creatividad, es esencial. Pero vale la pena señalar que aquellos que venden robots de IA hoy en día en realidad dicen en voz alta la parte tranquila de su jerga legal: en esta etapa inicial, la adopción de la IA podría crear tantos problemas como los que resuelve.