Apple ha pubblicato due paper di ricerca dove presenta due innovazioni per eseguire modelli di IA anche su dispositivi consumer.
NVIDIA ha annunciato il rilascio di TensorRT-LLM, un software che potenzia le performance delle GPU per l'inferenza degli LLM .
Il nuovo superchip Grace Hopper GH200 di NVIDIA potrebbe portare a un cambiamento significativo nel mondo dell'intelligenza artificiale.