Construyendo confianza en la IA con modelos de lenguaje pequeño: una conversación con Namee Oberst

En este episodio de Catalyst, Tammy se une a Namee Oberst, cofundadora de LLMware. Namee comparte su viaje poco convencional de abogada corporativa a tecnóloga de IA y su visión de hacer que la IA sea práctica, privada y confiable para las empresas. Tammy y Namee discuten modelos de lenguaje pequeño, IA para productividad y por qué la verificación humana no es negociable.

Los aspectos más destacados del episodio incluyen:

• Los modelos de lenguaje pequeño ofrecen un mejor control. A diferencia de los modelos grandes entrenados en todo Internet, los modelos pequeños pueden ser ajustados para tareas específicas, apilados juntos y controlados con precisión. Esto reduce las alucinaciones y aumenta la confianza.
• Sobrecargar a los agentes de atención al cliente. Tammy y Namee retroceden en la idea de arrancar centros de contacto completos y reemplazarlos con bots. Ambos aún no tienen una experiencia de chat de servicio al cliente que encuentren satisfactoria. En cambio, defienden a los agentes de sobrecarga con resúmenes, pasos sugeridos y acceso rápido al conocimiento. Luego, los agentes pueden concentrarse en hablar con los clientes y manejar casos periféricos.
• La automatización del flujo de trabajo requiere experiencia en el dominio. Construir agentes de IA eficaces es profundamente personal porque cada equipo tiene procedimientos únicos. Las herramientas sin código permiten que los equipos pequeños creen y compartan sus propios flujos de trabajo en lugar de que TI imponga soluciones genéricas que no coinciden con la forma en que las personas trabajan realmente.

Echa un vistazo al episodio completo para saber más sobre la IA en el dispositivo para empresas y la experiencia de Tammy en el campo de la torta de Acción de Gracias.

¿Disfrutando de Catalyst? No olvides darle me gusta y suscribirte a nuevos episodios todos los martes.

Tenga en cuenta que las opiniones expresadas en este episodio pueden no ser necesariamente las de NTT DATA.