IA per PC – È tutta una montatura o è meglio cambiare?

Oltre il clamore

Possiamo tranquillamente dire che i PC dedicati all'IA stanno rapidamente diventando un argomento di conversazione sempre più frequente tra produttori e organizzazioni. E così, le aziende che devono rinnovare i propri dispositivi si trovano a dover adottare la scelta giusta in un momento cruciale.

In un recente webinar, Elliott Jones si è confrontato con l'esperto di IA Rob May per capire se i PC dedicati all'IA alimentano solo voci o se c'è qualcosa di più sostanzioso. In questo articolo vi proponiamo i punti salienti - accompagnati da sequenze del webinar con sottotitoli tradotti - per aiutarvi a prendere decisioni informate mentre ci accingiamo ad entrare in una nuova era informatica.

Cos'è un PC dedicato all'IA?

I PC dedicati all'IA vengono equipaggiati con uno chipset dedicato, che è stato progettato allo scopo di supportare le applicazioni di intelligenza artificiale e per utilizzare l'IA in modo da migliorare le prestazioni, aumentare la sicurezza e fornire una maggiore personalizzazione.

I programmi basati sull'IA non sono certo una novità, ma i PC dotati di unità di elaborazione neurale (NPU), progettate per migliorare le attività di apprendimento automatico, sono una frontiera relativamente nuova. La diffusione dei chatbot alimentati dall'IA, come ChatGPT, ha fatto sì che si parlasse sempre più dei Large Language Model (LLM), algoritmi che, grazie all'apprendimento automatico e a grandi insiemi di dati, sono in grado di comprendere e riprodurre il linguaggio umano.

I PC dedicati all'IA funzionano in modo simile, anche se su una scala minore e direttamente in loco, utilizzando i cd. Small Language Models (SLM) che, sebbene più limitati, sono più adatti a ottimizzare i singoli dispositivi e a svolgere compiti più specifici e mirati. Uno dei principali benefici offerti dagli SLM consiste nella possibilità di spostare selettivamente i dati tra lo storage fisico di una macchina e le reti di archiviazione del cloud - cosa che a giudizio dell'esperto di IA Rob May consente di ottenere il meglio di entrambi i mondi.

"Ritengo che questo approccio misto coniughi la potenza del cloud, necessaria alle attività intensive e all'archiviazione dei dati, con la velocità e i vantaggi in termini di privacy dell'elaborazione locale". La sinergia di questi due vantaggi, aggiunge Rob, consente di "ridurre la latenza, risparmiare larghezza di banda e migliorare la sicurezza dei dati, diminuendo la quantità di dati sensibili che passa per il cloud."

A che punto sono i PC dedicati all'IA?

Il 2024 è stato indicato da molti come "l'anno del PC dedicati all'IA", ma sarà davvero così? In linea con questa previsione, gli analisti di mercato stimano che nel 2024 verranno venduti circa 50 milioni di PC dedicati all'IA, il che vuol dire circa una unità ogni cinque vendute. L'anno successivo, secondo i ricercatori di Gartner la percentuale dei PC predisposti per l'IA venduti salirà al 43%, mentre secondo l'International Data Corporation questo numero raggiungerà il 60% entro la fine del 2027.

Tutto porta quindi a credere che i PC dedicati all'IA diventeranno presto la norma; ma per cosa verranno usati? Le applicazioni ottimizzate per i PC dedicati all'IA più diffuse sono attualmente dedicate al settore delle videoconferenze e del project management - come Zoom, Slack o Webex - e alla progettazione creativa - come Adobe, Audacity o GIMP.

Ciò potrebbe far credere che l'ambito applicativo dei questa tecnologia possa rivelarsi scarso, ma, come spiega Rob, si tratta solo delle "prime fasi dell'integrazione dell'IA", che è destinata ad espandersi in campi molto più ampi. L'integrazione dell'IA sta iniziando in "settori caratterizzati da una domanda elevata e da evidenti vantaggi conseguenti al potenziamento dell'IA. Può sembrare un ambito ristretto, ma credo si tratti di un punto di partenza scontato". "Non credo quindi che l'apparente carenza di ambiti applicativi debba suscitare preoccupazioni, trattandosi di uno scenario in evoluzione." “Diventando man mano più evoluta e più accessibile, la tecnologia IA vedrà le sue applicazioni diversificarsi in modo esponenziale, così che gli attuali ambiti di applicazione avranno svolto la funzione di terreno di prova." “Ritengo inoltre che queste applicazioni possano trainare l'evoluzione degli ecosistemi hardware e software, gettando così le basi per una più ampia integrazione dell'IA."

Quando aggiornare?

I PC dedicati all'IA cambieranno il nostro modo di lavorare, motivo per cui i responsabili IT potrebbero essere tentati di acquistarli subito per trarre vantaggio da una maggiore produttività, una migliore sicurezza e privacy e una minore latenza del sistema. Tuttavia, alcune aziende potrebbero preferire aspettare più a lungo, visto che le tecnologie emergenti sono spesso più costose all'inizio e che i campi di impiego sono ancora relativamente limitati.

La rapidità con cui si evolve questo mercato consentirebbe di guadagnare tempo aggiornando i sistemi attuali alla generazione più recente di memorie DDR5 e SSD NVMe, così da poter sfruttare al massimo le applicazioni di IA emergenti. La decisione da adottare dipende dal budget, dalle esigenze e dal punto in cui è giunto il ciclo di aggiornamento tecnologico del vostro ambiente di lavoro. Chi decide di acquistare PC dedicati all'IA nuovi farebbe bene ad evitare modelli con componenti saldati alla scheda madre, preferendo soluzioni inseribili nei socket, così da evitare di ritrovarsi vincolati a soluzioni di storage, memoria o funzionalità che potrebbero rivelarsi inadeguati nel tempo.

I responsabili IT devono infatti valutare attentamente il costo di una sostituzione, parametrandolo non solo alle esigenze attuali della propria azienda, ma anche a quelle che si manifesteranno negli anni a venire. Il progressivo accumulo dei dati sulle preferenze degli utenti e sulle modalità di utilizzo dei sistemi operato dalle applicazioni di IA porterà a un incremento delle esigenze di memoria e di storage nell'ambiente di lavoro. Il rischio di acquistare PC dedicati all'IA privi delle caratteristiche necessarie è davvero molto alto: con un'accorta valutazione iniziale è possibile evitare investimenti improduttivi, che peserebbero sui successivi cinque anni.

Guarda il webinar