redaccion@diariodigitalis.com

OpenAI multiplica por 12 la velocidad de lectura de datos de ChatGPT

OpenAI ha anunciado una mejora significativa en la infraestructura tecnológica que sustenta el funcionamiento de ChatGPT y otros de sus servicios de inteligencia artificial. La compañía ha conseguido multiplicar por 12 la velocidad de lectura de datos de Habitat, su plataforma interna de almacenamiento, mediante una serie de modificaciones destinadas a reducir los tiempos de respuesta y mejorar la eficiencia de sus sistemas.

Según la información técnica publicada por OpenAI, las mejoras han permitido reducir la latencia mediana global de lectura desde aproximadamente 120 milisegundos hasta los 10 milisegundos. Esta reducción representa un avance en el acceso a la información utilizada por sus aplicaciones, aunque no implica que todas las respuestas de ChatGPT se generen doce veces más rápido.

La actualización responde al crecimiento de los servicios de inteligencia artificial y a la necesidad de gestionar grandes volúmenes de información de forma simultánea. Actualmente, Habitat administra más de 500 petabytes de datos y presta servicio a aplicaciones utilizadas por más de 1.000 millones de personas en unas 40 regiones geográficas.

Nuevas tecnologías para reducir los tiempos de acceso

Para alcanzar estas mejoras, OpenAI ha introducido diferentes modificaciones en su arquitectura de almacenamiento, basada en Azure Cosmos DB, el servicio de bases de datos distribuido de Microsoft.

Una de las principales medidas consiste en acercar determinados datos a las regiones donde se encuentran los usuarios, reduciendo la distancia que debe recorrer la información durante las consultas.

La compañía también ha incorporado sistemas de almacenamiento en caché distribuidos, que permiten recuperar información utilizada frecuentemente sin necesidad de consultar continuamente las bases de datos originales.

Estos mecanismos mantienen copias temporales de determinados datos y utilizan tecnologías de detección de cambios para actualizar la información cuando se producen modificaciones.

Otro de los avances destacados ha sido la reescritura de componentes de Habitat mediante Rust, un lenguaje de programación orientado al rendimiento y la seguridad de la memoria.

Según OpenAI, la combinación de estas actuaciones ha permitido reducir considerablemente la latencia de lectura y mejorar la capacidad de la plataforma para procesar consultas.

Una infraestructura preparada para millones de solicitudes

La evolución de Habitat también responde a los desafíos derivados de gestionar servicios digitales a gran escala.

En una publicación técnica anterior, OpenAI explicó que su plataforma de almacenamiento llegaba a gestionar más de 70 millones de solicitudes por segundo, una cifra que refleja la complejidad de mantener disponibles sus herramientas.

El sistema interviene en operaciones como la autenticación de usuarios, la recuperación de configuraciones, el acceso a información de las aplicaciones y otras tareas necesarias para el funcionamiento de los servicios.

Además de ChatGPT, Habitat presta soporte a productos como Codex y distintas herramientas empresariales desarrolladas por OpenAI.

La compañía ha trabajado en la distribución de las cargas de trabajo y en mecanismos de aislamiento para limitar los efectos de posibles incidencias sobre otras aplicaciones.

OpenAI busca mejorar la eficiencia de sus servicios

Las modificaciones forman parte de una estrategia de optimización destinada a aumentar la capacidad de procesamiento y mejorar el aprovechamiento de los recursos tecnológicos disponibles.

Uno de los principales retos continúa siendo la distribución geográfica de los centros de datos, ya que no todas las regiones cuentan con suficiente capacidad de almacenamiento y procesamiento para situar la información cerca de los usuarios.

Por este motivo, OpenAI prevé continuar desarrollando soluciones que permitan reducir la dependencia de consultas realizadas entre regiones y mejorar la disponibilidad de los datos.

La empresa también destaca la importancia de mantener un equilibrio entre rapidez, fiabilidad y costes operativos, especialmente ante el incremento del número de usuarios y aplicaciones basadas en inteligencia artificial.

Estas mejoras ponen de manifiesto la relevancia de la infraestructura de datos en el desarrollo de servicios de IA. Además de la evolución de los modelos, la capacidad de gestionar información de manera eficiente constituye un factor fundamental para garantizar el funcionamiento de las plataformas digitales.

Con la optimización de Habitat, OpenAI refuerza su infraestructura tecnológica y avanza en su objetivo de ofrecer servicios capaces de responder a una demanda global creciente.

Artículos Relacionados

Suscríbete a nuestra newsletter


(Obligatorio)

También te puede gustar

DEJA UNA RESPUESTA

Por favor ingrese su comentario!
Por favor ingrese su nombre aquí

Suscríbete a nuestra newsletter