I sistemi di elaborazione, il World Wide Web e milioni di esseri umani formano un rapporto complesso e simbiotico che aumenta drammaticamente la nostra innata capacità nella risoluzione dei problemi. Nel corso dei prossimi anni, ulteriori progressi tecnologici amplificheranno drammaticamente l'efficacia di ognuno di questi elementi, provocando miglioramenti esponenziali. Nel complesso, saremo molto più intelligenti; alcuni chiamano questo processo 'IA', incremento di intelligenza, altri 'SI', super-intelligenza. Per chiarezza, preferisco riservare la sigla 'SI' per le entità non-biologiche.

La tecnologia continuerà a migliorare l'intelligenza lungo tre assi che si sosterranno reciprocamente e saranno sempre più integrati:
aggiornando la rete Internet, aumentando la larghezza di banda e la connettività, etichettando dati semantici e un vasto cross-linking, agenti software e di collaborazione, ecc...
costruzione di sistemi/programmi destinati all'elaboratore, più intelligenti, entrambi specializzati (in uno specifico dominio) e ad uso generale (intelligenza artificiale generale);
potenziando l'abilità degli esseri umani con interfacce migliori ed infine con impianti/potenziamenti del cervello ed eliminazione dell'antichissima barriera dell'intelligenza biologica.

Mentre questi tre elementi di base sono strettamente legati, è importante distinguere fra l'intelligenza aumentata di un individuo e l'abilità cognitiva aggregata. Per la maggior parte di noi, da una prospettiva personale, è cruciale che l'intelligenza superiore sia impiegata per i nostri obiettivi, solitamente per la nostra sopravvivenza di lunga durata e prosperità.
È importante che l'intelligenza supplementare sia essenzialmente la nostra, un'estensione di noi stessi, uno strumento.
La super-intelligenza sarebbe a noi di poca utilità se fosse usata per scopi diametralmente opposti ai nostri. Stando così, chi decide a cosa deve essere applicata la SI? Chi la controlla?

Sembra che inizialmente gli individui o i gruppi che utilizzavano la rete - quelli che erano collegati e in grado di usarla - erano quelli che in gran parte poi determinarono il suo utilizzo. Certo, il sistema complessivo ha le sue complesse dinamiche (sia le caratteristiche intenzionali che non intenzionali del progetto), alcune persone chiamano questa la parte etica. Tuttavia, data questa dinamica, sono gli utenti quelli che ce l'hanno in carica.
Cosa potrebbe cambiare questo centro di controllo? Avrebbe potuto un qualunque altro elemento di abilità protrarsi drammaticamente in avanti, in modo da offuscare lo scopo dell'essere umano?
Alcuni hanno suggerito che la Rete nel suo insieme potrebbe sviluppare i propri obiettivi o valori espliciti, valori distinti da quelli dei suoi utenti. Guidata dalla propria abilità di elaborazione collettiva massiva, essa allora si comporterebbe per realizzare questi obiettivi. Senza entrare nel dettaglio, questo mi sembra estremamente improbabile. Tuttavia io predico che i sistemi progettati specificatamente con intelligenza generale, certamente organizzerannno un decollo difficile che gli esseri biologici non saranno in grado di capire.

Oggi, quasi tutta l'AI concentra lo sviluppo sull'abilità specializzata: lavoro di fabbrica, riconoscimento della parola, riconoscimento della faccia, scacchi, investimento, estrapolazione di dati, ecc... Soltanto una frazione molto piccola delle risorse è puntata sullo sviluppo dell'intelligenza generale delle macchine, il nucleo fondamentale delle abilità che permettono a noi di imparare qualsiasi cosa e tutto delle abilità specializzate. Questa abilità generale è in effetti un'interazione squisitamente equilibrata di elementi conoscitivi molto specifici; includendo cose come l'attenzione e la selezione, memoria a breve e a lungo termine, formazione del concetto e dell'induzione e, fondamentalmente, la meta-cognizione. Tali specifici requisiti sono molto improbabili da far arrivare insieme su Internet come un tuttuno, o in qualunque progetto specializzato. L'intelligenza generale è una specialità proprio di suo.

Intelligenza artificiale generale - 'la vera AI' - focalizza su come imparare piuttosto che sulla conoscenza. La conoscenza è un effetto dell'intelligenza, non la sua causa.
Oltre ad ottimizzare il sistema per l'integrazione e l'acquisizione delle conoscenze/abilità, esso può anche essere destinato per promuovere l'auto-miglioramento, primo passo dell'intelligenza. I progetti che hanno avuto più successo sono probabilmente tali da essere 'l'inizio delle AI'. Naturalmente, il sistema può anche avere accesso completo a tutte le risorse del Web, più la notevole (distribuita) assistenza umana per imparare.
Un progetto dedicato all'intelligenza generale avrà una dinamica molto differente rispetto a un'infrastruttura non coordinata, sparsa, senza obiettivo. Non soffrirà della massiccia diffusione dello scopo, della ridondanza di elaborazione, né delle decisioni di progetto prese da migliaia di comitati. Molti di questi attributi, sono naturalmente le resistenze stesse di Internet - per il suo fine - ma non sono ottimali per una vera AI.
Una volta che un seme di AI realizza (approssimativamente) un livello di intelligenza umano, rapidamente e drammaticamente, bisogna passare all'incremento umano (si veda l'articolo: Perchè le macchine diventeranno Iper-Intelligenti prima degli esseri umani)
Inoltre, poichè la SI progredisce, avrà sempre meno bisogno di input e di abilità umane. Che obiettivi ha una tale SI non umana? Effettivamente, avrà dei propri obiettivi? - In questa fase, queste sembrano essere ancora domande in sospeso.

Non possiamo usare l'intelligenza della SI per spingere noi al suo livello? Alcune considerazioni:
È disposta ad aiutarci? A seconda dei suoi propri valori, o da quelli del suo progettista/controllore.
È abbastanza intelligente? Puo' essere estremamente difficile: più difficile della completa nanotecnologia e dell'inversione dell' invecchiamento. Ci sarebbe almeno qualche (comunque forse minimo) ritardo fra la SI artificiale raggiunta e un'intelligenza artificiale sufficiente da potenziare drammaticamente diversi esseri umani.
Quanto della nostra identità manterremo veramente dopo un tale potenziamento? Forse lo 0,01%? Quanta gente la vedrebbe come una cosa desiderabile?

documento originale in inglese: http://www.optimal.org/peter/si_versus_ia.htm - Peter Voss