El personal de operaciones de TI tiene muchas cosas que hacer y, cuando ocurre un incidente que hace caer un sistema clave, el tiempo siempre estará en su contra. A lo largo de los años, las empresas han buscado una ventaja para avanzar más rápido con guías diseñadas para encontrar respuestas a problemas comunes y autopsias para evitar que se repitan, pero no todos los problemas se resuelven fácilmente y hay tantos datos y tantas posibilidades. puntos de fracaso.
En realidad, es un problema perfecto para que lo resuelva la IA generativa y el inicio de AIOps. panda grande, anunció hoy una nueva herramienta de inteligencia artificial generativa llamada Biggy para ayudar a resolver algunos de estos problemas más rápido. Biggy fue diseñado para analizar una amplia variedad de datos relacionados con TI para aprender cómo opera la empresa y compararlos con el escenario del problema y otros escenarios similares y sugerir una solución.
BigPanda ha estado utilizando la IA desde los inicios de la empresa y diseñó deliberadamente dos sistemas separados: uno para la capa de datos y otro para la IA, y esto de alguna manera los preparó para este cambio hacia la IA generativa basada en grandes modelos de lenguaje. “El motor de IA anterior a la Generación AI estaba construyendo muchos otros tipos de IA, pero se alimentaba del mismo motor de datos que alimentará lo que estamos haciendo con Biggy y lo que estamos haciendo con la IA generativa y conversacional. ”, dijo a TechCrunch el director ejecutivo de BigPanda, Assaf Resnick.
Como la mayoría de las herramientas de IA generativa, esta pone a disposición un cuadro de aviso donde los usuarios pueden hacer preguntas e interactuar con el bot. En este caso, los modelos subyacentes se han entrenado con datos internos de la empresa del cliente, así como con datos disponibles públicamente sobre una pieza particular de hardware o software, y están ajustados para abordar los tipos de problemas que TI enfrenta de forma regular. .
“Los LLM listos para usar han sido capacitados en una gran cantidad de datos y, de hecho, son realmente buenos como generalistas en todos los campos operativos que analizamos: infraestructura, redes, desarrollo de aplicaciones, todo lo relacionado. Y, de hecho, conocen muy bien todo el hardware”, dijo Jason Walker, director de innovación de BigPanda. “Entonces, si le pregunta acerca de un determinado servidor blade HP con este código de error, es bastante bueno para reunirlo, y lo usamos para gran parte del tráfico de eventos”. Por supuesto, tiene que ser más que eso o un ingeniero humano podría simplemente buscarlo en la Búsqueda de Google.
Combina este conocimiento con lo que es capaz de seleccionar internamente en una variedad de tipos de datos. “BigPanda ingiere los datos operativos y contextuales del cliente desde la observabilidad, el cambio, el CDMB (el archivo que almacena la información de configuración) y la topología junto con los datos históricos y el contexto humano e institucional, y normaliza los datos en pares clave-valor o etiquetas”, Walker dicho. Eso es mucha jerga técnica, pero básicamente significa que analiza la información a nivel del sistema, los datos organizacionales y las interacciones humanas para brindar una respuesta que ayude a los ingenieros a resolver el problema.
Cuando un usuario ingresa un mensaje, examina todos los datos para generar una respuesta que, con suerte, indicará a los ingenieros la dirección correcta para solucionar el problema. Reconocen que no siempre es perfecto porque ninguna IA generativa lo es, pero le avisan al usuario cuando hay un menor grado de certeza de que la respuesta es correcta.
“Para las áreas en las que creemos que no tenemos tanta certeza, les decimos que esta es nuestra mejor información, pero un humano debería echarle un vistazo a esto”, dijo Resnick. Para otras áreas donde hay más certeza, pueden introducir la automatización, trabajando con una herramienta como Red Hat Ansible para resolver el problema sin interacción humana, dijo.
La parte de la ingesta de datos no siempre será trivial para los clientes, y este es un primer paso para proporcionar un asistente de IA que pueda ayudar a TI a llegar a la raíz de los problemas y resolverlos más rápido. Ninguna IA es infalible, pero tener una herramienta de IA interactiva debería ser una mejora con respecto a los enfoques manuales actuales, que consumen más tiempo, para la resolución de problemas de los sistemas de TI.