Il libro di A. King, “AI, Automation, and War: The Rise of a Military-Tech Complex”, analizza l’intersezione tra intelligenza artificiale (IA) e automazione nei contesti militari. Attraverso una disamina storica e teorica, King esplora ciò che l’IA può e non può fare, indagando le sue capacità attuali e i limiti intrinseci. Nonostante le potenzialità dell’IA generativa e dei modelli linguistici di grandi dimensioni, l’autore sostiene che l’automazione totale nella guerra rimane un’illusione. L’IA odierna, sebbene sorprendente nei suoi risultati, non possiede la comprensione e il giudizio umano necessari per le decisioni strategiche militari. La fiducia nelle capacità di automazione è limitata, e la complessità delle operazioni militari richiede ancora l’intervento umano. Attraverso casi studio di aziende come Amazon e Google, King evidenzia come l’IA migliori l’efficienza senza sostituire la leadership umana.
Punti Chiave
L’intelligenza artificiale ha trasformato vari settori, ma la sua applicazione nella guerra è ancora limitata; la totale automazione della guerra è improbabile nel prossimo futuro.
Le capacità dell’IA sono suscettibili a fragilità e bias, come dimostrato da incidenti con sistemi di riconoscimento facciale e chatbot.
La storia dell’IA, dalle prime esperienze ai modelli di apprendimento profondo, evidenzia la sua evoluzione, ma anche i limiti delle attuali tecnologie nel ricreare l’intelligenza umana.
Sebbene l’IA generativa offra potenzialità sorprendenti, si basa ancora su algoritmi probabilistici, andando incontro a errori e mancanze nella comprensione del contesto.
Le aziende tecnologiche hanno utilizzato l’IA per ottimizzare le loro operazioni senza automatizzare completamente la gestione e le decisioni, suggerendo un modello simile per le forze armate.
Parole Chiave
Intelligenza artificiale L’IA è una tecnologia informatica che simula processi cognitivi umani, fondamentale per l’analisi dei dati e le previsioni nel contesto milita
Fragilità dei sistemi Si riferisce alla vulnerabilità dell’IA a errori e bias, evidenti in casi pratici, che limitano la sua applicabilità nelle decisioni critiche.
Automazione militare Riguarda l’uso dell’IA e di sistemi automatizzati nelle operazioni militari, un tema centrale nella discussione delle capacità future delle forze armate.
Capacità decisionali Si riferisce alla necessità di giudizio umano nelle operazioni strategiche miliari, difficilmente sostituibili dall’IA attuale.
Modelli linguistici Strumenti avanzati di IA, come GPT, che mostrano potenzialità di linguaggio ma presentano limitazioni nella comprensione e nel contesto.
Tendenze
Nel breve termine, la tendenza non mostra segni di un’imminente automazione totale delle operazioni militari. Le forze armate potrebbero continuare a integrare soluzioni IA per ottimizzare funzioni specifiche, come l’analisi dei dati e la logistica, piuttosto che sostituire completamente le decisioni umane. Con il miglioramento dei modelli di IA, l’aspettativa è che l’accento sia posto su un’ulteriore assistenza alle decisioni strategiche, mantenendo però un forte controllo umano. Le aziende continueranno a guidare l’innovazione nell’IA, ma sarà essenziale garantire una supervisione umana per prevenire errori devastanti in contesti ad alta criticità.
Suggerimenti e Applicazioni
Rispettare un approccio graduale all’integrazione dell’IA nei sistemi militari, mantenendo l’intervento umano nelle decisioni critiche per garantire un controllo più accurato e affidabile.
Investire nella formazione continua del personale militare per aumentare la loro capacità di utilizzare l’IA come supporto alle decisioni, senza eliminare il giudizio umano.
Sviluppare standard etici per l’uso dell’IA nelle operazioni militari, per garantire una responsabilità e una trasparenza adeguate nell’adozione della tecnologia.
Incoraggiare la collaborazione tra aziende tecnologiche e forze armate per sviluppare soluzioni IA applicabili, imparando dai successi e fallimenti nel settore civile.
Monitorare costantemente l’impatto dell’IA sui mercati del lavoro afferenti al settore militare, per garantire una transizione adeguata e supporti per i lavoratori influenzati dall’automazione.
Intelligenza artificialeL’IA è una tecnologia informatica che simula processi cognitivi umani, fondamentale per l’analisi dei dati e le previsioni nel contesto militare.
Fragilità dei sistemiSi riferisce alla vulnerabilità dell’IA a errori e bias, evidenti in casi pratici, che limitano la sua applicabilità nelle decisioni critiche.
Automazione militareRiguarda l’uso dell’IA e di sistemi automatizzati nelle operazioni militari, un tema centrale nella discussione delle capacità future delle forze armate.
Capacità decisionaliSi riferisce alla necessità di giudizio umano nelle operazioni strategiche miliari, difficilmente sostituibili dall’IA attuale.
Modelli linguisticiStrumenti avanzati di IA, come GPT, che mostrano potenzialità di linguaggio ma presentano limitazioni nella comprensione e nel contesto.
Tendenze
Nel breve termine, la tendenza non mostra segni di un’imminente automazione totale delle operazioni militari. Le forze armate potrebbero continuare a integrare soluzioni IA per ottimizzare funzioni specifiche, come l’analisi dei dati e la logistica, piuttosto che sostituire completamente le decisioni umane. Con il miglioramento dei modelli di IA, l’aspettativa è che l’accento sia posto su un’ulteriore assistenza alle decisioni strategiche, mantenendo però un forte controllo umano. Le aziende continueranno a guidare l’innovazione nell’IA, ma sarà essenziale garantire una supervisione umana per prevenire errori devastanti in contesti ad alta criticità.
Suggerimenti e Applicazioni
Rispettare un approccio graduale all’integrazione dell’IA nei sistemi militari, mantenendo l’intervento umano nelle decisioni critiche per garantire un controllo più accurato e affidabile.
Investire nella formazione continua del personale militare per aumentare la loro capacità di utilizzare l’IA come supporto alle decisioni, senza eliminare il giudizio umano.
Sviluppare standard etici per l’uso dell’IA nelle operazioni militari, per garantire una responsabilità e una trasparenza adeguate nell’adozione della tecnologia.
Incoraggiare la collaborazione tra aziende tecnologiche e forze armate per sviluppare soluzioni IA applicabili, imparando dai successi e fallimenti nel settore civile.
Monitorare costantemente l’impatto dell’IA sui mercati del lavoro afferenti al settore militare, per garantire una transizione adeguata e supporti per i lavoratori influenzati dall’automazione.
Il potere tecnico delle piattaforme digitali è articolato in particolare su due risorse principali: l’elaborazione algoritmica e l’accumulo di dati. Vedremo nel terzo paragrafo questi aspetti più nel dettaglio. Per ora basti sottolineare come siano proprio queste due funzioni a sostenere quello che appare a tutti gli effetti il loro potere governamentale. Se, è bene ribadirlo nuovamente, foucaultianamente intendiamo quello governamentale come un potere in grado di “condurre condotte”, grazie ad algoritmi e dati le piattaforme digitali impugnano qualcosa di inedito perfino se paragonato ai poteri che storicamente sono passati nelle mani dello Stato pur nelle sue varie forme. Ovviamente non si tratta di un potere coercitivo o distopico. Piuttosto gioca sul piano del “potere infrastrutturale”, per rifarci ancora una volta ai termini di Michael Mann, come cercheremo di mostrare più avanti. (M. Frapporti, “Governo materiale. Il potere politico delle infrastrutture”)
Il potere tecnico delle piattaforme digitali è articolato in particolare su due risorse principali: l’elaborazione algoritmica e l’accumulo di dati. Vedremo nel terzo paragrafo questi aspetti più nel dettaglio. Per il momento, diciamo solo che queste due azioni aiutano a mantenere quella che sembra essere la loro capacità di comando. In parole semplici, quello che si sta dicendo è questo: Sì, se guardiamo al potere come capacità di influenzare il comportamento, come faceva Foucault, allora le piattaforme online come Facebook e Google esercitano un potere **nuovo** e **diverso** per diverse ragioni:
* **Scala senza precedenti:** Mai prima d’ora nella storia un singolo attore ha avuto la capacità di raggiungere e influenzare così tante persone contemporaneamente. Le piattaforme online hanno una portata globale. * **Raccolta e analisi dati:** Queste piattaforme raccolgono una quantità enorme di dati sugli utenti (interessi, abitudini, relazioni, ecc.). Questo permette loro di creare profili dettagliati e personalizzati, e quindi di influenzare il comportamento in modi molto mirati. Prima non era possibile avere una conoscenza così profonda e individualizzata del pubblico. * **Algoritmi e personalizzazione:** Gli algoritmi di queste piattaforme decidono quali contenuti vediamo e quali no. Questo “filtro” ha un impatto enorme su come percepiamo il mondo, su cosa crediamo e su quali decisioni prendiamo. Prima c’era un controllo editoriale più trasparente (giornali, TV), ora gli algoritmi operano spesso in modo opaco. * **Manipolazione sottile:** L’influenza non è sempre diretta o evidente. Spesso, le piattaforme influenzano il nostro comportamento in modi sottili, attraverso la progettazione dell’interfaccia, i cosiddetti “nudge”, o la semplice esposizione ripetuta a determinate informazioni. * **Sorveglianza e autocensura:** La costante sorveglianza delle piattaforme (anche se non sempre consapevole) può portare le persone ad autocensurarsi e a modificare il proprio comportamento per evitare di essere giudicate o penalizzate.
In sintesi, il potere delle piattaforme online è nuovo e diverso perché si basa su una combinazione di scala globale, raccolta di dati massiccia, algoritmi opachi, manipolazione sottile e sorveglianza costante. Questo crea una forma di potere che Foucault probabilmente avrebbe trovato molto interessante e che merita una seria analisi e comprensione.. In parole semplici, il loro potere viene dal fatto che usano programmi automatici (algoritmi) e dati per influenzare quello che vediamo e come ci comportiamo su internet. Questo potere è diverso anche da quello che lo Stato ha avuto nel tempo, nelle sue diverse forme. Ovviamente non si tratta di un potere coercitivo o distopico. Piuttosto, punta a influenzare le cose di base, per usare le parole di Michael Mann, come vedremo meglio dopo.
Pensieri artificiali 