Mejorando Eficiencia y Velocidad en Procesamiento de Reclamaciones con Amazon Nova Micro y Lite

Amazon, la gigante del comercio electrónico, sigue expandiendo su influencia global, afectando la vida de millones de clientes, empleados y proveedores. Este crecimiento también implica la responsabilidad de gestionar riesgos y abordar reclamaciones relacionadas con la compensación de trabajadores, incidentes de transporte y otros asuntos de seguros. En este contexto, los gestores de riesgos son esenciales para supervisar las reclamaciones contra la empresa a lo largo de su ciclo de vida. En promedio, cada reclamación genera 75 documentos, convirtiendo su gestión en una tarea compleja.

Recientemente, un equipo interno de Amazon desarrolló una solución de inteligencia artificial para optimizar el procesamiento de datos relacionados con las reclamaciones. Este sistema crea resúmenes estructurados de las reclamaciones en menos de 500 palabras, mejorando la eficiencia del proceso sin perder precisión. Sin embargo, los desarrolladores enfrentaron altos costos de inferencia y tiempos de procesamiento de entre 3 y 5 minutos por reclamación, un desafío que aumenta con la aparición de nuevos documentos.

Para solucionar estos problemas, el equipo evaluó modelos de la Fundación Amazon Nova como posibles alternativas. Las pruebas mostraron que los modelos de Amazon Nova, especialmente el modelo Nova Lite, no solo igualan el rendimiento de otros modelos avanzados, sino que también son más económicos y rápidos. De hecho, Amazon Nova Lite es dos veces más rápido y 98% más económico que el modelo actual de la empresa.

El proceso de resumen de reclamaciones comienza con el procesamiento de datos en bruto usando AWS Glue y el almacenamiento de la información en Amazon S3. Luego, los trabajos de resumido se gestionan a través de Amazon SQS, y los resúmenes se generan mediante AWS Lambda utilizando modelos de base en Amazon Bedrock. Este enfoque permite filtrar datos irrelevantes y centrarse en lo fundamental, optimizando tanto el costo como el rendimiento.

La evaluación de los modelos de Amazon Nova ha demostrado mejoras significativas en la velocidad de inferencia y la eficiencia de costos, permitiendo un mayor margen para el diseño de modelos sofisticados y la calibración de computación de prueba. Además, la brecha de latencia entre los modelos de Amazon Nova y otros competidores se amplía en documentos de contexto largo, haciendo que estos modelos sean una opción más atractiva para manejar documentos extensos.

En conclusión, esta iniciativa no solo destaca la capacidad de Amazon para innovar en la gestión de reclamos, sino que también ofrece una solución viable para organizaciones que deben procesar grandes volúmenes de documentación compleja, mejorando la calidad del servicio y reduciendo los costos operativos al mismo tiempo.