AMD lanza las CPU AMD EPYC de 5ª generación, manteniendo el liderazgo en rendimiento y características para los Centros de Datos modernos

Business Empresarial.- AMD (NASDAQ: AMD) anunció hoy la disponibilidad de los procesadores AMD EPYC™ de 5ª generación, anteriormente conocidos como «Turin», el mejor CPU server del mundo para empresas, IA y la nube[i].

Utilizando la arquitectura de núcleo «Zen 5», compatible con la plataforma[ii] SP5 ampliamente implementada y que ofrece una amplia gama de recuentos de núcleos que abarcan desde 8 hasta 192, los procesadores AMD EPYC Serie 9005 amplían el rendimiento[iii] y la eficiencia energética récord de las generaciones anteriores con la CPU de 192 núcleos de gama alta que ofrece hasta 2,7 veces el rendimiento[iv] en comparación con la competencia.

La novedad de las CPU de la Serie AMD EPYC 9005 es la AMD EPYC 9575F de 64 núcleos, hecha a medida para soluciones de IA impulsadas por GPU que necesitan lo último en capacidades de CPU host. Aumento de hasta 5 GHz[v], en comparación con el procesador de 3,8 GHz de la competencia, proporciona un procesamiento hasta un 28 % más rápido necesario para mantener las GPU alimentadas con datos para las exigentes cargas de trabajo de IA.

«Desde la alimentación de las supercomputadoras más rápidas del mundo hasta las empresas líderes y los Hyperscalers más grandes, AMD se ha ganado la confianza de los clientes que valoran el rendimiento demostrado, la innovación y la eficiencia energética», dijo Dan McNamara, vicepresidente senior y gerente general del negocio de servidores de AMD. «Con cinco generaciones de ejecución de la hoja de ruta a tiempo, AMD ha demostrado que puede satisfacer las necesidades del mercado de centros de datos y brindar a los clientes el estándar de rendimiento, eficiencia, soluciones y capacidades de estos para cargas de trabajo en la nube, empresariales y de IA».

 La mejor CPU del mundo para cargas de trabajo empresariales, de IA y en la nube

Los centros de datos modernos ejecutan una variedad de cargas de trabajo, desde el apoyo a las iniciativas corporativas de habilitación de IA hasta la alimentación de infraestructuras basadas en la nube a gran escala y el alojamiento de las aplicaciones críticas más exigentes para el negocio. Los nuevos procesadores AMD EPYC de 5ª generación proporcionan un rendimiento y unas capacidades líderes para el amplio espectro de cargas de trabajo de servidor que impulsan la TI empresarial.

La nueva arquitectura de núcleo «Zen 5» proporciona hasta un 17 % más de instrucciones por reloj (IPC) para cargas de trabajo empresariales y en la nube y hasta un 37 % más de IPC en IA y computación de alto rendimiento (HPC) en comparación con “Zen 4.”[vi]

Con los servidores basados en el procesador AMD EPYC 9965, los clientes pueden esperar un impacto significativo en sus aplicaciones y cargas de trabajo del mundo real en comparación con los servidores basados en CPU Intel Xeon® 8592+, con:

• Tiempo de obtención de resultados hasta 4 veces más rápido en aplicaciones empresariales como la transcodificación de vídeo.[vii]
• Hasta 3.9X más tiempo para obtener información sobre la ciencia y las aplicaciones de HPC que resuelven los problemas más desafiantes del mundo.[viii]
• Hasta 1.6X el rendimiento por núcleo en infraestructura virtualizada.[ix]

Además de liderar el rendimiento y la eficiencia en cargas de trabajo de uso general, los procesadores AMD EPYC de 5ª generación permiten a los clientes acelerar el tiempo de obtención de información e implementaciones de IA, ya sea que estén ejecutando una CPU o una solución de CPU + GPU.

En comparación con la competencia:

• La CPU EPYC 9965 de 192 núcleos tiene hasta 3.7X más rendimiento en cargas de trabajo de IA de extremo a extremo, como TPCx-AI (derivado), que son fundamentales para impulsar un enfoque eficiente de la IA generativa.[x]
• En modelos de IA generativa de clase empresarial pequeña y mediana, como Llama 3.1-8B de Meta, el EPYC 9965 proporciona un rendimiento 1.9X superior al de la competencia.[xi]
• Por último, la CPU de nodo host de IA especialmente diseñada, el EPYC 9575F, puede utilizar su aumento de frecuencia máxima de 5 GHz para ayudar a un clúster de IA de 1.000 nodos a impulsar hasta 700.000 tokens de inferencia más por segundo. Logrando más, de forma más rápida.[xii]

Al modernizarse a un centro de datos impulsado por estos nuevos procesadores para lograr 391,000 unidades de rendimiento SPECrate®2017_int_base de computación de propósito general, los clientes reciben una mejora impresionante para varias cargas de trabajo, al tiempo que obtienen la capacidad de usar un estimado de 71% menos de energía y ~87% menos de servidores[xiii]. Esto les da a los CIOs la flexibilidad para beneficiarse del ahorro de espacio y energía o agregar rendimiento para las tareas diarias de TI, al tiempo que ofrecen un rendimiento impresionante de IA.

 CPU AMD EPYC: impulsando la próxima ola de innovación

El rendimiento comprobado y el profundo soporte del ecosistema entre socios y clientes han impulsado la adopción generalizada de las CPU EPYC para impulsar las tareas informáticas más exigentes. Con un rendimiento, características y densidad líderes, las CPU AMD EPYC ayudan a los clientes a generar valor en sus centros de datos y entornos de TI de manera rápida y eficiente.

Características de AMD EPYC de 5ª generación

La línea completa de procesadores AMD EPYC de 5ª generación ya está disponible, con soporte de Cisco, Dell, Hewlett Packard Enterprise, Lenovo y Supermicro, así como de todos los principales ODM y proveedores de servicios en la nube, lo que proporciona una ruta de actualización sencilla para las organizaciones que buscan el liderazgo en computación e inteligencia artificial.

Las características de alto nivel de las CPU de la Serie AMD EPYC 9005 incluyen:

• Opciones de recuento de núcleos de liderazgo de 8 a 192, por CPU
• Arquitecturas de núcleo «Zen 5» y «Zen 5c»
• 12 canales de memoria DDR5 por CPU
• Soporte para hasta DDR5-6400 MT/s[xiv]
• Frecuencias de aumento de liderazgo de hasta 5 GHz5
• AVX-512 con la ruta de datos 512b completa
• Trusted I/O para Computación Confidencial, y la certificación FIPS en proceso para cada pieza de la Serie

Model (AMD EPYC)	Cores	CCD (Zen5/Zen5c)	Base/Boost5 (up to GHz)	Default  TDP (W)	L3 Cache (MB)	Price (1 KU, USD)
9965	192 cores	“Zen5c”	2.25 / 3.7	500W	384	$14,813
9845	160 cores	“Zen5c”	2.1 / 3.7	390W	320	$13,564
9825	144 cores	“Zen5c”	2.2 / 3.7	390W	384	$13,006
9755 9745	128 cores	“Zen5” “Zen5c”	2.7 / 4.1 2.4 / 3.7	500W 400W	512 256	$12,984 $12,141
9655 9655P 9645	96 cores	“Zen5” “Zen5” “Zen5c”	2.6 / 4.5 2.6 / 4.5 2.3 / 3.7	400W 400W 320W	384 384 384	$11,852 $10,811 $11,048
9565	72 cores	“Zen5”	3.15 / 4.3	400W	384	$10,486
9575F 9555 9555P 9535	64 cores	“Zen5” “Zen5” “Zen5” “Zen5”	3.3 / 5.0 3.2 / 4.4 3.2 / 4.4 2.4 / 4.3	400W 360W 360W 300W	256 256 256 256	$11,791 $9,826 $7,983 $8,992
9475F 9455 9455P	48 cores	“Zen5” “Zen5” “Zen5”	3.65 / 4.8 3.15 / 4.4 3.15 / 4.4	400W 300W 300W	256 192 192	$7,592 $5,412 $4,819
9365	36 cores	“Zen5”	3.4 / 4.3	300W	256	$4,341
9375F 9355 9355P 9335	32 cores	“Zen5” “Zen5” “Zen5” “Zen5”	3.8 / 4.8 3.55 / 4.4 3.55 / 4.4 3.0 / 4.4	320W 280W 280W 210W	256 256 256 256	$5,306 $3,694 $2,998 $3,178
9275F 9255	24 cores	“Zen5” “Zen5”	4.1 / 4.8 3.25 / 4.3	320W 200W	256 128	$3,439 $2,495
9175F 9135 9115	16 cores	“Zen5” “Zen5” “Zen5”	4.2 / 5.0 3.65 / 4.3 2.6 / 4.1	320W 200W 125W	512 64 64	$4,256 $1,214 $726
9015	8 cores	“Zen5”	3.6 / 4.1	125W	64	$527

Recursos de apoyo

• Puedes ver el AMD Advancing AI Keynote aquí
• Más información sobre 5^th Gen AMD EPYC Processors
• Sigue a AMD en X
• Conecta con AMD en LinkedIn

[i] EPYC-029C: Comparison based on thread density, performance, features, process technology and built-in security features of currently shipping servers as of 10/10/2024. EPYC 9005 series CPUs offer the highest thread density [EPYC-025B], leads the industry with 500+ performance world records [EPYC-023F] with performance world record enterprise leadership Java® ops/sec performance [EPYCWR-20241010-260], top HPC leadership with floating-point throughput performance [EPYCWR-2024-1010-381], AI end-to-end performance with TPCx-AI performance [EPYCWR-2024-1010-525] and highest energy efficiency scores [EPYCWR-20241010-326]. The 5th Gen EPYC series also has 50% more DDR5 memory channels [EPYC-033C] with 70% more memory bandwidth [EPYC-032C] and supports 70% more PCIe® Gen5 lanes for I/O throughput [EPYC-035C], has up to 5x the L3 cache/core [EPYC-043C] for faster data access, uses advanced 3-4nm technology, and offers Secure Memory Encryption + Secure Encrypted Virtualization (SEV) + SEV Encrypted State + SEV-Secure Nested Paging security features. See the AMD EPYC Architecture White Paper (https://library.amd.com/l/3f4587d147382e2/) for more information.

[ii] AMD EPYC™ 9005 processors utilize the SP5 socket. Many factors determine system compatibility.  Check with your server manufacturer to determine if this processor is supported in systems configured with previously launched AMD EPYC 9004 family CPUs.

[iii] EPYC-022F: For a complete list of world records see: http://amd.com/worldrecords.

[iv] 9xx5-002C: SPECrate®2017_int_base comparison based on published scores from www.spec.org as of 10/10/2024.

2P AMD EPYC 9965 (3000 SPECrate®2017_int_base, 384 Total Cores, 500W TDP, $14,813 CPU $), 6.060 SPECrate®2017_int_base/CPU W, 0.205 SPECrate®2017_int_base/CPU $, https://www.spec.org/cpu2017/results/res2024q3/cpu2017-20240923-44833.html)

2P AMD EPYC 9755 (2720 SPECrate®2017_int_base, 256 Total Cores, 500W TDP, $12,984 CPU $), 5.440 SPECrate®2017_int_base/CPU W, 0.209 SPECrate®2017_int_base/CPU $, https://www.spec.org/cpu2017/results/res2024q4/cpu2017-20240923-44837.pdf)

2P AMD EPYC 9754 (1950 SPECrate®2017_int_base, 256 Total Cores, 360W TDP, $11,900 CPU $), 5.417 SPECrate®2017_int_base/CPU W, 0.164 SPECrate®2017_int_base/CPU $, https://www.spec.org/cpu2017/results/res2023q2/cpu2017-20230522-36617.html)

2P AMD EPYC 9654 (1810 SPECrate®2017_int_base, 192 Total Cores, 360W TDP, $11,805 CPU $), 5.028 SPECrate®2017_int_base/CPU W, 0.153 SPECrate®2017_int_base/CPU $, https://www.spec.org/cpu2017/results/res2024q1/cpu2017-20240129-40896.html)

2P Intel Xeon Platinum 8592+ (1130 SPECrate®2017_int_base, 128 Total Cores, 350W TDP, $11,600 CPU $) 3.229 SPECrate®2017_int_base/CPU W, 0.097 SPECrate®2017_int_base/CPU $, http://spec.org/cpu2017/results/res2023q4/cpu2017-20231127-40064.html)

2P Intel Xeon 6780E (1410 SPECrate®2017_int_base, 288 Total Cores, 330W TDP, $11,350 CPU $) 4.273 SPECrate®2017_int_base/CPU W, 0.124 SPECrate®2017_int_base/CPU $, https://spec.org/cpu2017/results/res2024q3/cpu2017-20240811-44406.html)

SPEC®, SPEC CPU®, and SPECrate® are registered trademarks of the Standard Performance Evaluation Corporation. See www.spec.org for more information. Intel CPU TDP at https://ark.intel.com/.

[v] GD-150: Boost Clock Frequency is the maximum frequency achievable on the CPU running a bursty workload. Boost clock achievability, frequency, and sustainability will vary based on several factors, including but not limited to: thermal conditions and variation in applications and workloads.  GD-150.

[vi] 9xx5-001: Based on AMD internal testing as of 9/10/2024, geomean performance improvement (IPC) at fixed-frequency.

– 5th Gen EPYC CPU Enterprise and Cloud Server Workloads generational IPC Uplift of 1.170x  (geomean) using a select set of 36 workloads and is the geomean of estimated scores for total and all subsets of SPECrate®2017_int_base (geomean ), estimated scores for total and all subsets of SPECrate®2017_fp_base (geomean), scores for Server Side Java multi instance max ops/sec,   representative Cloud Server workloads (geomean), and representative Enterprise server workloads (geomean).

“Genoa” Config (all NPS1): EPYC 9654 BIOS TQZ1005D 12c12t (1c1t/CCD in 12+1), FF 3GHz, 12x DDR5-4800 (2Rx4 64GB), 32Gbps xGMI;

“Turin” config (all NPS1): EPYC 9V45    BIOS RVOT1000F 12c12t (1c1t/CCD in 12+1), FF 3GHz, 12x DDR5-6000 (2Rx4 64GB), 32Gbps xGMI

Utilizing Performance Determinism and the Performance governor on Ubuntu® 22.04 w/ 6.8.0-40-generic kernel OS for all workloads.

– 5th Gen EPYC generational ML/HPC Server Workloads IPC Uplift of 1.369x (geomean) using a select set of 24 workloads and is the geomean of representative ML Server Workloads (geomean), and representative HPC Server Workloads (geomean).

“Genoa Config (all NPS1) “Genoa” config: EPYC 9654 BIOS TQZ1005D 12c12t (1c1t/CCD in 12+1), FF 3GHz, 12x DDR5-4800 (2Rx4 64GB), 32Gbps xGMI;

“Turin” config (all NPS1):   EPYC 9V45 BIOS RVOT1000F 12c12t (1c1t/CCD in 12+1), FF 3GHz, 12x DDR5-6000 (2Rx4 64GB), 32Gbps xGMI

Utilizing Performance Determinism and the Performance governor on Ubuntu 22.04 w/ 6.8.0-40-generic kernel OS for all workloads except LAMMPS, HPCG, NAMD, OpenFOAM, Gromacs  which utilize 24.04 w/ 6.8.0-40-generic kernel.

SPEC® and SPECrate® are registered trademarks for Standard Performance Evaluation Corporation. Learn more at spec.org.

[vii] 9xx5-006: Pruebas internas de AMD a partir del 09/01/2024, en FFMPEG (Raw a VP9, 1080P, 302 Frames, 1 instancia/hilo, fuente de vídeo: https://media.xiph.org/video/derf/y4m/ducks_take_off_1080p50.y4m).

Configuraciones del sistema: Sistema de referencia AMD EPYC™ 9965 2P (2 x 192C) 1.5TB 24x64GB DDR5-6400 funcionando a 6000MT/s, SAMSUNG MZWLO3T8HCLS-00A07, NPS=4, Ubuntu 22.04.3 LTS, Kernel Linux 5.15.0-119-genérico, BIOS RVOT1000C (determinismo habilitado=potencia), 10825484.25 fotogramas/hora mediana

Sistema de producción 2P AMD EPYC™ 9654 (2 x 96C) 1.5TB 24x64GB DDR5-5600, , SAMSUNG MO003200KYDNC, NPS=4, Ubuntu 22.04.3 LTS, Kernel Linux 5.15.0-119-generic, BIOS 1.56 (determinismo habilitado=potencia) , 5154133.333 fotogramas/hora mediana.

Sistema de producción 2P Intel Xeon Platinum 8592+ (2 x 64C) 1 TB 16x64GB DDR5-5600, 3,2 TB NVME, Ubuntu 22.04.3 LTS, Kernel Linux 6.5.0-35-genérico), BIOS ESE122V-3.10, 2712701.754 fotogramas/hora mediana

Por 3,99 veces el rendimiento con los sistemas AMD EPYC 9965 frente a los sistemas Intel Xeon Platinum 8592+

Por 1,90 veces el rendimiento con los sistemas AMD EPYC 9654 frente a los sistemas Intel Xeon Platinum 8592+

Los resultados pueden variar en función de factores que incluyen, entre otros, la configuración y las versiones del BIOS y el sistema operativo, las versiones de software y los datos utilizados.

[viii] 9xx5-022: Fuente: https://www.amd.com/content/dam/amd/en/documents/epyc-technical-docs/performance-briefs/amd-epyc-9005-pb-gromacs.pdf

[ix] 9xx5-071: Comparación de VMmark® 4.0.1 host/nodo FC SAN basada en resultados «publicados de forma independiente» a partir del 10/10/2024.

Configuraciones:

2 nodos, 2P AMD EPYC 9575F (128 núcleos en total) servidor alimentado con VMware ESXi8.0 U3, 3.31 @ 4 mosaicos,

https://www.infobellit.com/BlueBookSeries/VMmark4-FDR-1003

2 nodos, 2P AMD EPYC 9554 (128 núcleos en total) servidor alimentado con VMware ESXi 8.0 U3, 2.64 @ 3 mosaicos,

https://www.infobellit.com/BlueBookSeries/VMmark4-FDR-1002

Servidor con tecnología Intel Xeon Platinum 8592+ (128 núcleos en total) de 2 nodos, 2P que ejecuta VMware ESXi 8.0 U3, 2.06 @ 2.4 mosaicos,

https://www.infobellit.com/BlueBookSeries/VMmark4-FDR-1001

VMmark es una marca comercial registrada de VMware en EE. UU. u otros países.

[x] 9xx5-012: Resultados de rendimiento de TPCxAI @SF30 Multi-Instance 32C Instance Instance basados en pruebas internas de AMD a partir del 09/05/2024 ejecutando varias instancias de VM. La prueba de rendimiento de IA agregada de extremo a extremo se deriva del punto de referencia TPCx-AI y, como tal, no es comparable con los resultados publicados de TPCx-AI, ya que los resultados de la prueba de rendimiento de IA de extremo a extremo no cumplen con la especificación TPCx-AI.

2P AMD EPYC 9965 (384 núcleos en total), 12 instancias 32C, NPS1, 1,5 TB 24x64GB DDR5-6400 (a 6000 MT/s), 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 6.8.0-40-generic (rendimiento de rendimiento del perfil adm ajustado, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=desactivado, Determinismo=Potencia, Turbo Boost=Activado)

2P AMD EPYC 9755 (256 núcleos en total), 8 instancias 32C, NPS1, 1,5 TB 24×64 GB DDR5-6400 (a 6000 MT/s), 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.4 LTS, 6.8.0-40-generic (rendimiento de rendimiento de perfil adm ajustado, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT0090F (SMT=desactivado, Determinismo=Potencia, Turbo Boost=Activado)

2P AMD EPYC 9654 (192 núcleos en total) 6 instancias 32C, NPS1, 1,5 TB 24 x 64 GB DDR5-4800, 1DPC, 2 x 1,92 TB Samsung MZQL21T9HCJR-00A07 NVMe, Ubuntu 22.04.3 LTS, BIOS 1006C (SMT = apagado, determinismo = energía)

En comparación con 2P Xeon Platinum 8592+ (128 núcleos en total), 4 instancias 32C, AMX activado, 1 TB 16×64 GB DDR5-5600, 1DPC, 1,0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe, 3,84 TB KIOXIA KCMYXRUG3T84 NVMe, , Ubuntu 22.04.4 LTS, 6.5.0-35 genérico (rendimiento de rendimiento de perfil adm ajustado, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=desactivado, Determinismo=Potencia, Turbo Boost = Activado)

Resultados:

CPU Mediana Generacional Relativa

Turín 192C, 12 Inst 6067.531 3.775 2.278

Turín 128C, 8 Inst 4091.85 2.546 1.536

Génova 96C, 6 inst 2663.14 1.657 1

EMR 64C, 4 Inst 1607.417 1 NA

Los resultados pueden variar debido a factores que incluyen configuraciones del sistema, versiones de software y configuraciones del BIOS. TPC, TPC Benchmark y TPC-C son marcas comerciales del Transaction Processing Performance Council.

[xi] 9xx5-009: Resultados de rendimiento de Llama3.1-8B basados en pruebas internas de AMD a partir del 09/05/2024.

Configuraciones Llama3-8B: IPEX. LLM 2.4.0, NPS=2, BF16, tamaño de lote 4, configuraciones de tokens de entrada/salida de casos de uso: [Resumen = 1024/128, Chatbot = 128/128, Traducción = 1024/1024, Ensayo = 128/1024, Pie de foto = 16/16].

2P AMD EPYC 9965 (384 núcleos en total), 6 instancias 64C 1,5 TB 24×64 GB DDR5-6400 (a 6000 MT/s), 1 DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.3 LTS, 6.8.0-40-generic (rendimiento de rendimiento de perfil adm ajustado, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C, (SMT=desactivado, Determinismo=Potencia, Turbo Boost=Activado),  NPS=2

2P AMD EPYC 9755 (256 núcleos en total), 4 instancias 64C, 1,5 TB 24×64 GB DDR5-6400 (a 6000 MT/s), 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu 22.04.3 LTS, 6.8.0-40-generic (rendimiento de rendimiento del perfil adm ajustado, ulimit -l 198096812, ulimit -n 1024, ulimit -s 8192), BIOS RVOT1000C (SMT=desactivado, Determinismo=Potencia, Turbo Boost=Activado),  NPS=2

2P AMD EPYC 9654 (192 núcleos en total) 4 instancias 48C, 1,5 TB 24x64GB DDR5-4800, 1DPC, 1,0 Gbps NetXtreme BCM5720 Gigabit Ethernet PCIe, 3,5 TB Samsung MZWLO3T8HCLS-00A07 NVMe®, Ubuntu® 22.04.4 LTS, 5.15.85-051585-generic (rendimiento de rendimiento de perfil adm ajustado, ulimit -l 1198117616, ulimit -n 500000, ulimit -s 8192), BIOS RVI1008C (SMT=desactivado, Determinismo=Potencia, Turbo Boost=Activado), NPS=2

En comparación con 2P Xeon Platinum 8592+ (128 núcleos en total), 2 instancias 64C, AMX activado, 1 TB 16×64 GB DDR5-5600, 1DPC, 1,0 Gbps NetXtreme BCM5719 Gigabit Ethernet PCIe, 3,84 TB KIOXIA KCMYXRUG3T84 NVMe®, Ubuntu 22.04.4 LTS 6.5.0-35-generic (perfil adm ajustado throughput-performance, ulimit -l 132065548, ulimit -n 1024, ulimit -s 8192), BIOS ESE122V (SMT=desactivado, Determinismo=Potencia, Turbo Boost = Activado).

Los resultados pueden variar debido a factores que incluyen configuraciones del sistema, versiones de software y configuraciones del BIOS.

[xii] 9xx5-087: A partir del 10/10/2024; este escenario contiene varias suposiciones y estimaciones y, aunque se basa en la investigación interna de AMD y las mejores aproximaciones, debe considerarse un ejemplo solo con fines informativos y no debe usarse como base para la toma de decisiones sobre las pruebas reales.

Haciendo referencia a 9XX5-056A: «El servidor con tecnología 2P AMD EPYC 9575F y 8 GPU AMD Instinct MI300X que ejecutan Llama3.1-70B seleccionan cargas de trabajo de inferencia con precisión FP8 frente a un servidor con tecnología Intel Xeon Platinum 8592+ 2P y 8 GPU AMD Instinct MI300X tiene un aumento de rendimiento general del ~ 8% en casos de uso de inferencia seleccionados» y 8763,52 tokens/s (9575F) frente a 8.048,48 tokens/s (8592+) a 128 tokens de entrada / 2048 tokens de salida,  500 solicita 1,089 veces los tokens/s o 715,04 token/s más.

Los resultados pueden variar debido a factores que incluyen configuraciones del sistema, versiones de software y configuraciones del BIOS.

Las estimaciones de impacto ambiental se realizaron aprovechando estos datos, utilizando los factores de electricidad específicos de cada país / región de la International Country Specific Electricity Factors 10 – July 2024 , y la ‘Calculadora de equivalencias de gases de efecto invernadero’ de la Agencia de Protección Ambiental de los Estados Unidos.

Para obtener más información, consulte https://www.amd.com/en/claims/epyc5#9xx5TCO-001a