Google Cloud próximo '23

Jun 08, 2023

Google Cloud realizó hoy una amplia gama de anuncios sobre IA al iniciar su evento anual para usuarios en San Francisco, incluidas mejoras en su infraestructura para respaldar la IA, una expansión de las asociaciones de IA, mejoras en su plataforma de IA (Vertex) y actualizaciones de su sistema generativo. Herramienta de IA, Duet, que se integra en Workspace. Los anuncios fueron numerosos y rápidos, lo que dejó pocas dudas a los presentes en la sala de que la inversión en IA es la prioridad número uno para Google Cloud.

Espero que este enfoque incesante en actualizar el mercado con todos los avances posibles en IA no sea exclusivo de Google Cloud, dadas las expectativas sobre la tecnología y la velocidad a la que se está desarrollando el mercado de la IA: los clientes tienen que evaluar una amplia variedad de opciones. y necesitamos los detalles de quién está invirtiendo en qué y dónde. Sin embargo, el discurso de apertura de la conferencia de esta mañana, encabezado por el CEO de Alphabet y Google, Sundar Pichai, y el CEO de Google Cloud, Thomas Kurian, también brindó a los asistentes la oportunidad de salir de la maleza y ver la importancia del impacto de estos avances tecnológicos con algunos aspectos muy casos de uso útiles.

Uno de ellos incluía mostrar cómo la IA generativa podría mejorar significativamente la experiencia de los conductores que buscan asistencia en el DMV (una experiencia del cliente notoriamente horrible)... pero hablaremos de eso más adelante.

Es fácil perderse en los detalles tecnológicos individuales, pero cuando se los toma en conjunto y se ilustran algunos casos de uso realmente impresionantes a través de demostraciones, ahí es donde las habilidades de inteligencia artificial de Google Cloud realmente cobraron vida. Por supuesto, estos casos de uso deben validarse con los clientes y aún es temprano para estas tecnologías, pero algunos de los resultados que se mostraron a los usuarios comerciales fueron impresionantes y brindaron una comprensión del arte de lo posible.

Al inaugurar el evento, el director ejecutivo de Alphabet y Google, Sundar Pichai, dijo:

En mis conversaciones con líderes empresariales durante los últimos años, he escuchado un tema similar. Quieren un socio que haya estado a la vanguardia de los avances tecnológicos, desde el escritorio hasta el móvil, la nube y ahora la IA. Estos cambios pueden ser realmente emocionantes. Y también pueden traer incertidumbre. Esto es definitivamente cierto en el caso del cambio hacia la IA. Será uno de los cambios más profundos que veremos en nuestra vida. Afectará a todos los sectores, todas las industrias, todas las funciones empresariales. Y cambiar significativamente la forma en que vivimos y trabajamos.

Esto no es sólo una característica: ya estamos empezando a experimentar los beneficios ahora mismo. Como empresa, llevamos algún tiempo preparándonos para este momento. Y durante los últimos siete años, hemos adoptado un enfoque de IA primero, aplicando IA para hacer que nuestros productos estén radicalmente más disponibles. Creemos que hacer que la IA sea útil para todos es la forma más importante en la que cumpliremos nuestra misión en la próxima década.

Antes de profundizar en algunos de los casos de uso que se destacaron hoy en el escenario, vale la pena brindar un resumen de los anuncios clave de Google Cloud. Es mejor pensar en ellos en tres áreas distintas: infraestructura, plataforma y usuario final.

En primer lugar, las empresas saben que el modelado sofisticado de IA impone grandes exigencias a la infraestructura. Google Cloud presenta su infraestructura como "optimizada para IA" y anunció una serie de características nuevas que incluyen:

Nube TPUv5e - Google Cloud dice que TPUv5e es su acelerador de IA diseñado específicamente más rentable, versátil y escalable hasta la fecha. Agrega que los clientes pueden usar una única plataforma Cloud TPU para ejecutar capacitación e inferencia de IA a gran escala.

Máquinas virtuales A3 con GPU NVIDIA H100 - Las máquinas virtuales A3, impulsadas por la GPU H100 de NVIDIA, estarán disponibles de forma general el próximo mes. Google Cloud afirma que estas máquinas virtuales permiten a las organizaciones lograr un rendimiento de capacitación tres veces mejor que la generación A2 anterior.

GKE Empresa- permite el escalado horizontal de múltiples clústeres necesario para las cargas de trabajo de IA/ML más exigentes y de misión crítica.

Red entre nubes - una plataforma de red global que tiene como objetivo permitir a los clientes conectarse y proteger aplicaciones a través de nubes. Google Cloud dice que es abierto, está optimizado para cargas de trabajo y ofrece seguridad basada en ML para brindar confianza cero.

Nube distribuida de Google (GDC) - GDC tiene como objetivo apoyar a las organizaciones que desean ejecutar cargas de trabajo en el borde o en sus centros de datos. La cartera de GDC incluye integraciones de Vertex AI y una nueva oferta administrada de AlloyDB Omni en GDC Hosted.

A continuación, tenemos actualizaciones para la plataforma de inteligencia artificial de Google Cloud, Vertex AI, que proporciona a los usuarios un portal para crear, implementar y escalar modelos de aprendizaje automático. Vertex incluye acceso a más de 100 modelos básicos, incluidos los modelos propietarios de Google Cloud, pero también modelos de terceros y de código abierto. Están optimizados para diferentes tareas, incluidos texto, chat, imágenes, voz, código de software y también incluyen modelos específicos de la industria, para áreas como ciberseguridad y atención médica. Las actualizaciones de Vertex AI incluyen:

Actualizaciones de PaLM 2, Imagen y Codey - Actualizaciones de ventanas contextuales de PaLM 2 a 32k para que las empresas puedan procesar documentos de formato más largo, como trabajos de investigación y libros. Google Cloud también está actualizando el atractivo visual de Imagen y ampliando la compatibilidad con nuevos idiomas en Codey.

Herramientas para sintonizar - para PaLM 2 y Codey, Google Cloud está haciendo que el ajuste de adaptadores esté disponible de forma generalizada y en versión preliminar respectivamente, cuyo objetivo es ayudar a mejorar el rendimiento de LLM con tan solo 100 ejemplos. También está introduciendo un nuevo método de ajuste de Imagen, llamado Style Tuning, para que las empresas puedan crear imágenes alineadas con sus pautas de marca específicas u otras necesidades creativas con tan solo 10 imágenes de referencia.

Nuevos modelos - Llama 2 y Code Llama de Meta ya están disponibles, así como Falcon LLM de Technology Innovative Institute, un popular modelo de código abierto. Google Cloud también anunció previamente Claude 2 de Anthropic.

Extensiones de IA de Vertex - Los desarrolladores ahora pueden acceder, crear y administrar extensiones que brindan información en tiempo real, incorporan datos de la empresa y toman medidas en nombre del usuario. Google Cloud cree que esto abre nuevas posibilidades para aplicaciones de inteligencia artificial de generación que pueden operar como una extensión de su empresa, habilitadas por la capacidad de acceder a información patentada y tomar medidas en plataformas de terceros como su sistema CRM o correo electrónico.

Toma de tierra - Se anunció un nuevo servicio de conexión a tierra empresarial, que funciona en todos los modelos básicos de Vertex AI, Búsqueda y Conversación. Su objetivo es brindar a los clientes la capacidad de basar las respuestas en sus propios datos empresariales para brindar respuestas más precisas. Google Cloud también está trabajando con algunos de los primeros clientes para probar la tecnología que impulsa la Búsqueda de Google.

Marca de agua digital en Vertex AI - Impulsado por Google DeepMind SynthID, ofrece tecnología que incrusta la marca de agua directamente en la imagen de píxeles, haciéndola invisible para el ojo humano y difícil de manipular. Las marcas de agua digitales, dice Google Cloud, brindan a los clientes un enfoque escalable para crear e identificar imágenes generadas por IA de manera responsable.

Empresa de colaboración - un servicio administrado que combina las computadoras portátiles Colab de Google con capacidades de cumplimiento y seguridad de nivel empresarial. Los científicos de datos pueden usar Colab Enterprise para colaborar en torno a flujos de trabajo de IA con acceso a las capacidades de la plataforma Vertex AI, integrarse con BigQuery, así como completar y generar código.

Y, finalmente, los anuncios para los usuarios empresariales se centran en la integración de Duet AI con Workspace y Google Cloud. Duet AI se reveló en mayo como un asistente de IA generativa para acelerar la producción de contenido y el trabajo en la empresa (más sobre esto más adelante). Las actualizaciones clave anunciadas hoy incluyen:

Dúo AI en Google Meet- Duet AI tomará notas durante las videollamadas, enviará resúmenes de reuniones y traducirá automáticamente subtítulos en 18 idiomas.

Dueto de IA en el chat de Google- Los usuarios pueden chatear directamente con Duet AI para hacer preguntas sobre su contenido, obtener un resumen de los documentos compartidos en un espacio y ponerse al día con las conversaciones perdidas.

Desarrollo de software - Duet AI brindará asistencia durante todo el ciclo de vida del desarrollo de software, con el objetivo de minimizar el cambio de contexto para ayudar a los desarrolladores a ser más productivos. Además de completar y generar código, puede ayudar con la refactorización de código y la creación de API mediante indicaciones simples en lenguaje natural.

Operaciones de aplicaciones e infraestructura- Los operadores pueden chatear con Duet AI en lenguaje natural a través de una serie de servicios directamente en Google Cloud Console para recuperar información práctica sobre la configuración de la infraestructura, las mejores prácticas de implementación y recomendaciones de expertos sobre optimización de costos y rendimiento.

Análisis de datos - Duet AI en BigQuery tiene como objetivo brindar asistencia contextual para escribir consultas SQL, así como código Python. También es capaz de generar funciones completas y bloques de código, realizar sugerencias automáticas de finalización de código y explicar sentencias SQL en lenguaje natural, y puede generar recomendaciones basadas en esquemas y metadatos.

Una vez que se hicieron los anuncios de tecnología, el director ejecutivo de Google Cloud, Thomas Kurian, se tomó un tiempo, junto con sus colegas, para mostrar cómo Vortex y Duet AI realmente podrían cambiar la forma en que las personas trabajan y transformar las experiencias de los clientes.

Un ejemplo se centró en el DMV (el Departamento de Vehículos Motorizados), que tiene una sólida reputación en Estados Unidos por su pésimo servicio al cliente y sus experiencias dolorosas. La demostración se centró en cómo la conversación y la búsqueda están cada vez más entrelazadas, y el DMV pudo crear rápidamente una aplicación dentro de Vortex. Se demostró que el desarrollador selecciona uno de los LLM disponibles, ingresa los datos relevantes y luego proporciona una serie de indicaciones de proceso para que la IA conversacional sepa cómo trabajar con los clientes.

La velocidad a la que se "construyó" la aplicación parecía impresionante (aunque las indicaciones del proceso ya estaban validadas en el campo, y ese fue probablemente el elemento que consumió más tiempo). El resultado para el usuario final en el sitio web del DMV fue que podía hacer una pregunta como "¿Cómo renuevo mi licencia?" y se proporcionó una respuesta con las diversas opciones, pero lo más importante es que incluye citas 'fundamentadas' de varios enlaces en el sitio web del DMV. Luego, los usuarios podrían hacer preguntas de seguimiento, como "¿Cuánto tiempo lleva renovar una licencia?".

Mientras esta conversación está en curso, la herramienta de IA reconoce lo que el usuario final está intentando hacer y proporciona un llamado a la acción diciendo algo como "Vemos que vives en San José, ¿estás intentando renovar tu licencia allí?". ?'. Luego, el usuario puede responder "sí" y la IA dice "La próxima cita disponible dentro de 20 minutos en automóvil desde su ubicación es el próximo martes, ¿desea reservarla?".

Al responder que sí, la herramienta de inteligencia artificial no solo reserva la cita, sino que la agrega al calendario del usuario y le envía un correo electrónico con una confirmación. La ilustración fue muy impresionante (especialmente si ha intentado programar una cita con una agencia/departamento gubernamental).

Otra demostración se centró en Duet AI, que al integrarse en Google Drive, un usuario podía pedirle que creara una presentación (basada en un ejemplo anterior) con todos los datos relacionados con un tema, empresa o producto específico. La presentación se generó automáticamente y luego el usuario pudo editarla, usando Duet AI nuevamente, pero solicitando comandos como "¿Puedes agregar una diapositiva centrada en por qué esto es relevante para la Generación Z?". Nuevamente, la diapositiva se generó automáticamente.

El uso de Duet en Google Meets también fue impresionante. Se mostraron ejemplos de cómo la herramienta de IA podía proporcionarle viñetas sobre lo que se había perdido en la reunión si llegaba tarde, o cómo recopilaba automáticamente elementos de acción a lo largo de la reunión y le proporcionaba una lista al final.

Con las empresas avanzando hacia la IA generativa a buen ritmo, pero a menudo con una comprensión limitada de cómo hacer que funcione para ellas, fue muy útil dejar atrás las (aunque necesarias) actualizaciones tecnológicas de Google Cloud y resaltar los ejemplos de la vida real. Vale la pena señalar que estas fueron demostraciones preparadas previamente y, como sabemos, contar con las bases necesarias (tanto de tecnología como de datos) es clave para lograr el éxito. Cómo se ve esto en una empresa compleja es una historia diferente. Dicho esto, hoy conocimos una serie de clientes que ya están utilizando estas herramientas de IA generativa en sus organizaciones y ya están viendo resultados. Escribiremos una serie de estudios de casos en los próximos días, así que manténgase atento a ellos. Pero un comienzo sólido y útil por parte de Google Cloud en el primer día de su evento; habrá más mañana.