Cina: Gli scienziati hanno creato un distopico "procuratore IA" che deciderà il destino delle persone

 

Cina: Gli scienziati hanno creato un distopico "procuratore IA" che deciderà il destino delle persone

I ricercatori in Cina sostengono di aver raggiunto una prima mondiale sviluppando una macchina che può accusare le persone di crimini usando l'intelligenza artificiale.


La macchina distopica può identificare il "dissenso" contro lo stato e suggerire le sentenze per gli apparenti criminali.


I ricercatori sostengono che l'AI "procuratore" può decidere sulle accuse con più del 97 per cento di precisione sulla base di una descrizione verbale del caso.


Ci sono però timori che la macchina, che è stata costruita e testata dalla Procura popolare di Shanghai Pudong, possa essere armata dallo stato.


Lo riferisce MSN: Finora, può identificare e sporgere denuncia per gli otto crimini più comuni di Shanghai, tra cui la frode con carta di credito, il furto, la guida pericolosa e le liti - un reato spesso usato contro i dissidenti. 


La tecnologia è stata addestrata utilizzando più di 17.000 casi dal 2015 al 2020. Può essere eseguita su un computer desktop e decide se sporgere un'accusa analizzando centinaia di "tratti" ottenuti da una descrizione del caso generata dall'uomo, secondo un rapporto del South China Morning Post.


Una volta che le accuse sono presentate, è quasi garantito che finiscano con una condanna, dato che il tasso di assoluzione in Cina è inferiore all'uno per cento.


Lo scienziato principale del progetto, il professor Shi Yong, direttore del laboratorio di gestione dei grandi dati e della conoscenza dell'Accademia cinese delle scienze, ha detto che la macchina potrebbe liberare i pubblici ministeri per concentrarsi su compiti più difficili. 


"Il sistema può sostituire i pubblici ministeri nel processo decisionale in una certa misura", ha detto Shi e i suoi colleghi in un documento pubblicato questo mese sulla rivista cinese Management Review.


La Cina ha già cercato di incorporare tecnologie come l'AI e i big data per trasformare il modo in cui funziona il suo sistema legale.


Nel 2017, le autorità hanno lanciato il primo tribunale cibernetico del paese, che permette alle parti in casi "digitali" come l'e-commerce di apparire via video chat di fronte a giudici AI virtuali. Mentre l'idea è quella di accelerare le udienze e aiutare il sistema a gestire un maggior numero di casi, i veri giudici umani continuano a monitorare ciò che accade e a prendere le decisioni chiave. 


Nel 2016, i procuratori cinesi hanno iniziato a utilizzare uno strumento di intelligenza artificiale per valutare le prove e il livello di pericolo che un sospetto rappresenta per il pubblico.


Ma gli strumenti AI esistenti non hanno un ruolo nel processo decisionale di archiviazione delle accuse e di suggerimento delle punizioni, secondo Shi e i suoi colleghi. 


Il team ha detto che la loro macchina diventerà più potente con gli aggiornamenti e sarà in grado di riconoscere i crimini meno comuni e presentare più accuse contro un singolo sospetto. 


Un procuratore senza nome nella città meridionale cinese di Guangzhou ha detto al South China Morning Post che mentre la macchina ha una precisione del 97 per cento, "ci sarà sempre la possibilità di un errore".


"Chi si prenderà la responsabilità quando accadrà? Il procuratore, la macchina o il progettista dell'algoritmo?", ha chiesto il procuratore. 


Oltre alla spinta legale, le autorità cinesi hanno anche cercato di utilizzare l'IA in vari altri settori per migliorare l'efficienza e rafforzare la supervisione del governo.


I funzionari statunitensi hanno espresso la preoccupazione che l'IA cinese e ambizioni simili potrebbero alla fine dare a Pechino un vantaggio critico nel settore militare, sanitario e in altri settori chiave. 


A ottobre, l'ex capo del software del Pentagono ha detto al Financial Times che la Cina aveva già vinto la battaglia dell'IA con gli Stati Uniti e si stava dirigendo verso il dominio globale.


fonte

Scrivi cosa ne pensi

Condividi la tua opinione nel rispetto degli altri. Niente link.

Nuova Vecchia