El clima de financiación para las nuevas empresas de chips de IA, que alguna vez fue tan soleado como un día de mediados de julio, está comenzando a nublarse a medida que avanzan. NVIDIA afirma su dominio.
Según un informe reciente, las empresas de chips estadounidenses aumentó solo 881 millones de dólares entre enero de 2023 y septiembre de 2023, frente a 1.790 millones de dólares en los primeros tres trimestres de 2022. La empresa de chips de inteligencia artificial Mythic se quedó sin efectivo en 2022 y casi se vio obligada a detener sus operaciones, mientras que Graphcore, un rival que alguna vez estuvo bien capitalizado , ahora enfrenta pérdidas crecientes.
Pero una startup parece haber tenido éxito en el ultracompetitivo –y cada vez más concurrido– espacio de los chips de IA.
Holacofundada en 2017 por Orr Danon y Avi Baum, anteriormente director de tecnología de conectividad inalámbrica en el equipo de microprocesadores. Instrumentos Texas, diseña chips especializados para ejecutar cargas de trabajo de IA en dispositivos periféricos. Los chips de Hailo ejecutan tareas de IA con menor uso de memoria y consumo de energía que un procesador típico, lo que los convierte en un fuerte candidato para dispositivos compactos, fuera de línea y que funcionan con baterías, como automóviles, cámaras inteligentes y robótica.
“Cofundé Hailo con la misión de hacer que la IA de alto rendimiento esté disponible a escala fuera del ámbito de los centros de datos”, dijo Danon a TechCrunch. “Nuestros procesadores se utilizan para tareas como la detección de objetos, la segmentación semántica, etc., así como para la mejora de imágenes y vídeos impulsada por IA. Más recientemente, se han utilizado para ejecutar modelos de lenguaje grandes (LLM) en dispositivos periféricos, incluidas computadoras personales, unidades de control electrónico de información y entretenimiento y más”.
Muchas nuevas empresas de chips de IA aún tienen que conseguir un contrato importante, y mucho menos docenas o cientos. Pero Hailo tiene hoy más de 300 clientes, afirma Danon, en industrias como la automoción, la seguridad, el comercio minorista, la automatización industrial, los dispositivos médicos y la defensa.
En una apuesta por las perspectivas futuras de Hailo, un grupo de patrocinadores financieros, incluido el empresario israelí Alfred Akirov, el importador de automóviles Delek Motors y la plataforma de capital riesgo OurCrowd, invirtieron esta semana 120 millones de dólares en Hailo, una extensión de la Serie C de la compañía. Danon dijo que el nuevo capital “permitirá a Hailo aprovechar todas las oportunidades en proceso” y al mismo tiempo “preparar el escenario para el crecimiento a largo plazo”.
“Estamos estratégicamente posicionados para llevar la IA a los dispositivos de vanguardia de maneras que ampliarán significativamente el alcance y el impacto de esta nueva y notable tecnología”, dijo Danon.
Quizás te preguntes: ¿una startup como Hailo en realidad tener una oportunidad contra gigantes de chips como Nvidia, y en menor medida Brazo, Intel y AMD? Un experto, Christos Kozyrakis, profesor de ingeniería eléctrica e informática de Stanford, así lo cree: cree que los chips aceleradores como el de Hailo se volverán “absolutamente necesarios” a medida que prolifere la IA.
“La brecha de eficiencia energética entre las CPU y los aceleradores es demasiado grande para ignorarla”, dijo Kozyrakis a TechCrunch. “Se utilizan los aceleradores para lograr eficiencia en tareas clave (por ejemplo, IA) y se tiene uno o dos procesadores adicionales para la programabilidad”.
Kozyrakis hace Consideramos que la longevidad representa un desafío para el liderazgo de Hailo; por ejemplo, si las arquitecturas del modelo de IA para las que sus chips están diseñados para funcionar de manera eficiente pasan de moda. El soporte de software también podría ser un problema, dice Kozyrakis, si una masa crítica de desarrolladores no está dispuesta a aprender a utilizar las herramientas construidas alrededor de los chips de Hailo.
“La mayoría de los desafíos en lo que respecta a los chips personalizados se encuentran en el ecosistema de software”, dijo Kozyrakis. “Aquí es donde Nvidia, por ejemplo, tiene una gran ventaja sobre otras empresas en IA, ya que han estado invirtiendo en software para sus arquitecturas durante más de 15 años”.
Pero, con 340 millones de dólares en el banco y una fuerza laboral de alrededor de 250 personas, Danon se siente confiado sobre el camino a seguir de Hailo, al menos en el corto plazo. Considera que la tecnología de la startup aborda muchos de los desafíos que enfrentan las empresas con la inferencia de IA basada en la nube, en particular la latencia, el costo y la escalabilidad.
“Los modelos tradicionales de IA dependen de una infraestructura basada en la nube, y a menudo sufren problemas de latencia y otros desafíos”, dijo Danon. “Son incapaces de obtener información y alertas en tiempo real, y su dependencia de las redes pone en peligro la confiabilidad y la integración con la nube, lo que plantea preocupaciones sobre la privacidad de los datos. Hailo está abordando estos desafíos ofreciendo soluciones que operan independientemente de la nube, lo que las hace capaces de manejar cantidades mucho mayores de procesamiento de IA”.
Curioso por la perspectiva de Danon, le pregunté sobre la IA generativa y su gran dependencia de la nube y los centros de datos remotos. Seguramente Hailo considera que el actual modelo verticalista y centrado en la nube (por ejemplo, el modus operandi de OpenAI) es una amenaza existencial.
Danon dijo que, por el contrario, la IA generativa está impulsando una nueva demanda del hardware de Hailo.
“En los últimos años, hemos visto un aumento en la demanda de aplicaciones de IA de vanguardia en la mayoría de las industrias, desde la seguridad de los aeropuertos hasta el envasado de alimentos”, dijo. “El nuevo aumento de la IA generativa está impulsando aún más esta demanda, ya que estamos viendo solicitudes para procesar LLM localmente por parte de clientes no sólo en las industrias informática y automotriz, sino también en automatización industrial, seguridad y otras”.
Qué hay sobre eso.