Zoho Corporation, compañía tecnológica global con sede en Chennai, ha anunciado que utilizará la plataforma de computación acelerada por IA de NVIDIA –que incluye NVIDIA NeMo, parte del software NVIDIA AI Enterprise– para construir e implantar sus Large Language Models (LLMs) en sus aplicaciones SaaS.
Una vez creados e implantados, los LLMs estarán disponibles en todo el mundo para los más de 700.000 clientes de Zoho Corporation a través de ManageEngine y Zoho.com.
En el último año, la compañía ha invertido más de 10 millones de dólares en tecnología de IA y GPU de NVIDIA, y tiene previsto invertir otros 10 millones el año que viene. Este anuncio ha tenido lugar durante el evento NVIDIA AI Summit en Bombay.
Según Ramprakash Ramamoorthy, director de AI de Zoho Corporation, «muchos LLMs actualmente en el mercado están diseñados para uso del consumidor, ofreciendo un valor reducido para las empresas. En Zoho, nuestra misión es desarrollar LLMs adaptados específicamente para una amplia gama de casos de uso empresarial. Ser propietarios de toda nuestra tecnología, con productos que abarcan varias funciones de negocio, nos permite integrar el componente esencial que hace que la IA sea realmente efectiva: el contexto».
Desde sus comienzos, Zoho ha dado la máxima prioridad a la privacidad del usuario para crear modelos que cumplan la normativa sobre privacidad desde su creación, en lugar de adaptarlos a posteriori. Su objetivo es ayudar a las empresas a obtener un retorno de la inversión rápido y eficaz, aprovechando toda la plataforma de software de IA de NVIDIA y la computación acelerada para aumentar el rendimiento y reducir la latencia.
Zoho lleva más de una década creando su propia tecnología de IA y la ha ido añadiendo contextualmente a su amplia cartera de más de 100 productos en sus divisiones ManageEngine y Zoho. Su enfoque sobre la IA es multimodal, orientado a obtener inteligencia contextual que pueda ayudar a los usuarios a tomar decisiones de negocio. La empresa está construyendo modelos lingüísticos reducidos, pequeños y medianos, que son distintos de los LLMs.
Esto ofrece opciones para utilizar modelos de distintos tamaños con el fin de proporcionar mejores resultados en una gran variedad de casos de uso. Basarse en múltiples modelos también significa que las empresas que no disponen de una gran cantidad de datos pueden seguir beneficiándose de la IA. La privacidad también es un principio básico en la estrategia de IA de Zoho, por lo que sus modelos LLMs no aprenderán con los datos de clientes.
«La capacidad de elegir entre una gama de tamaños de modelos de IA permite a las empresas adaptar sus soluciones de IA con precisión a sus necesidades, equilibrando el rendimiento con la rentabilidad», afirma Vishal Dhupar, director general de NVIDIA para el sur de Asia. «Con el software de IA y la plataforma de computación acelerada de NVIDIA, Zoho está construyendo una amplia gama de modelos para ayudar a satisfacer las diversas necesidades de sus clientes empresariales».
Gracias a esta colaboración, Zoho impulsará sus LLMs en la plataforma de computación acelerada de NVIDIA con GPUs NVIDIA Hopper, utilizando la plataforma integral NVIDIA NeMo para desarrollar IA generativa personalizada, lo que incluye LLMs, IA multimodal, de visión y del habla.
Adicionalmente, Zoho está probando NVIDIA TensorRT-LLM para optimizar sus LLMs para su implantación, y ya ha observado un aumento del 60% en el rendimiento y una reducción del 35% en la latencia en comparación con el framework de código abierto utilizado anteriormente. La compañía también está agilizando otras tareas, como la conversión de voz a texto, en la infraestructura de cálculo acelerado de NVIDIA.
