Dellia Group steg kraftig første handelsdag.

Dellia Group stiger kraftig første handelsdag.

Bruxelles - La Commissione europea sta raccogliendo feedback su come il Digital Markets Act (DMA) possa sostenere mercati digitali equi e contendibili,

Visualizzazioni: 81 Se non ci si addestra molto attentamente a essere vigili contro gli errori delle attuali intelligenze artificiali, quegli errori passeranno inosservati e finiranno per contaminare tutto, con conseguenze potenzialmente disastrose. Leggo su The Verge che l’IA di Google dedicata alla medicina, Med-Gemini (non una IA generica, ma un prodotto destinato specificamente all’uso medico), ha “inventato” una parte anatomica che non esiste, i _“gangli basilari”_. Secondo Google si è trattato semplicemente di un refuso al posto di _“gangli basali”_ , ma il problema è che il refuso non è stato notato dai revisori e quindi rischia di propagarsi inosservato, alterando la terminologia medica. E qui sta il problema di fondo di questi software: spesso generano risultati che a prima vista possono suonare giusti ma sono in realtà sottilmente sbagliati, e noi non siamo mentalmente predisposti per notare errori così sottili, nascosti in una sequenza di parole plausibili. Ci adagiamo facilmente, abbassiamo la guardia. Me ne sono accorto personalmente stamattina. Sono alle prese con una traduzione medica dall’italiano all’inglese che a un certo punto parla di estrogeni, al plurale. DeepL, che ho usato nella sua versione professionale per la pre-traduzione di bozza (perché è abbastanza efficace come assistente ma ogni tanto prende granchi clamorosi), mi ha tradotto quel plurale volgendolo al singolare: _estrogen_. La cosa mi ha insospettito. Nel rivedere attentamente a mano il testo, ritraducendo mentalmente per poi vedere come se l’è cavata DeepL, come faccio sempre, ho verificato che in inglese _estrogen_ viene usato sia come _countable_ , ossia sostantivo che ha un plurale (_estrogens_), sia come _uncountable_ , ossia che rimane invariato al plurale (come _furniture_ o _information_). E solitamente si usa come _uncountable_ , quindi al singolare. DeepL ha lavorato bene. Ma quando ho immesso in Google _“estrogen plural”_ , come faccio sempre quando voglio verificare il plurale dei termini (soprattutto medici, visto che molti in inglese hanno plurali alla latina o alla greca), l’IA di Google mi ha risposto con perentoria certezza in modo molto differente. _The plural of estrogen is estrogens. This is because “estrogen” refers to a group of related hormones, not a single substance. The term “estrogens” is more accurate when referring to these multiple hormones._ In altre parole, l’IA di Google mi ha dato una risposta che è in sé corretta ma omette una parte importantissima, ossia il fatto che anche la forma _estrogen_ per il plurale è valida. Questi errori di omissione sono i più subdoli in assoluto. Faccio ancora un esempio, in cui stavolta è stato DeepL a sbagliare in maniera sottilmente ingannevole. Lo stesso testo parla, nell’originale, di DNA che viene _tagmentato_. Nella sua pre-traduzione, DeepL ha tradotto _fragmented_ , ossia _“frammentato”_ , come se avesse interpretato _tagmentato_ come un errore di battitura al posto appunto di _frammentato_. Ma in realtà il testo originale è corretto, perché la _tagmentazione_ è un procedimento che esiste e ha un significato tecnico molto preciso. Quanti traduttori avrebbero pensato a un semplice refuso e avrebbero detto _“ecco guarda quanto è bravo DeepL, corregge persino gli errori di battitura”_ , commettendo invece un errore importante di traduzione? Per usare efficacemente questi software di traduzione assistita, e più in generale per usare efficacemente le intelligenze artificiali, bisogna insomma riaddestrarsi, cambiare metodo di lavoro, cercare di anticipare gli errori tipici di questi prodotti e diventare loro supervisori inflessibili e perennemente sul chi vive. Pensare che possano sostituire gli esseri umani è pura incoscienza.

Bell’articolo tutto da leggere sulla ideologia della tecno-chiesa che diffonde la “fede dell’IA”. Uno dei miei primi (pochi) articoli su Note di Software, il periodico del Dipartimento di Scienze dell’Informazione dell’Università di Milano (oggi Informatica) che scrissi a fine anni ’80 del secolo scorso, era una analisi delle “strutture autoreplicanti e virus del software” (questo era il titolo). In quell’articolo esaminavo il funzionamento delle religioni: c’è in genere un gancio mentale per cui, se un profeta ti convince di quello, poi non ti resta altro che diventarne un profeta a tua volta per convincere altri. Generalmente c’è coinvolto (implicitamente o esplicitamente) un valore morale di bene/altruismo, come giustificazione profonda. Ad esempio: se sei convinto che esista l’inferno e l’unico modo per non finirci sia aderire alle credenze e comportamenti della chiesa X, farai tutto per convincere i tuoi cari per poterli salvare” Questo meccanismo è alla base della “Scommessa di Pascal” in cui Pascal spiega perchè il comportamento più razionale sia essere Cristiani: se vivi una vita da non credente, guadagni relativamente poco in vita e perdi tantissimo per l’eternità. Viceversa, se vivi da credente, perdi relativamente poco in vita ma guadagni tantissimo per l’eternità. Se Dio non esiste e hai vissuto da credente, hai perso poco. Se Dio esiste e hai vissuto da non credente, perdi tantissimo. Per cui conviene credere. La chiesa dell’IA ha un meccanismo simile, nato nel 2010 su un forum chiamato LessWrong frequentato da “razionalisti”, persone che ritengono di ragionare senza bias. Generalmente ignorano le complessità profonde e infinite sfaccettature del mondo, hanno infarinature delle riflessioni filosofiche – dai greci in poi – per avere letto le sintesi su wikipedia, considerano il passato una legacy (quasi un disvalore), ritengono di essere i depositari del metodo razionale, per cui hanno La Risposta ad ogni problema. (e gli altri sono tutti idioti). In quel forum, un utente chiaamto Roko, ha proposto un esperimento mentale che segue la struttura delle religioni, esperimento mentale noto come “Il basilisco di Roko”. Il basilisco è una creatura mitologica europea, conosciuta come il “re dei serpenti”, che secondo le leggende ha il potere di uccidere o pietrificare con il solo sguardo diretto negli occhi. L’esperimento mentale postula che, in futuro, un’intelligenza artificiale con accesso a risorse quasi illimitate e con una forza di volontà superiore a quella dell’umanità (la super Intelligenza Artificiale rappresentata dal basilisco) potrebbe decidere di punire retroattivamente tutti coloro che in qualche modo non hanno contribuito alla sua creazione. Se ti convinci che sia così, che questo sia un esito possibile, seguendo la scommessa di Pascal non puoi far altro che convincere altri e impegnarti per contribuire all’avvento della super intelligenza artificiale. Se hai fede che la AGI e la superintelligenza arriveranno, il costo di non divenirne una suo profeta sarebbe elevatissimo, quindi meglio darsi da fare! Se non hai tale fede, conviene comunque comportarsi come se possa accadere perchè il costo di non farlo potrebbe costare tantissimo. In una chiacchierata con Jaan Tallin, già fondatore di Skype ed uno dei principali finanziatori di queste organizzazioni che speculano sui “rischi esistenziali”, gli chiesi “ma tu credi davvero che un giorno arriverà una AI che possa sterminare l’umanità ?” e lui mi rispose “no, non ci credo, ma se poi succede ? il rischio è altissimo”. Pascal docet. Molti degli adepti sono divulgatori capaci e assai influenti o manager/imprenditori ai vertici di aziende che si occupano di AI (come potrebbe essere diversamente, se sono credenti ?) e muovono, o condizionano il movimento, di decine/centiniaia di miliardi – prima originati dagli info-plutocrati e dalle loro aziende, adesso anche dal governo. Non occorre essere dei teologi per fare i profeti, anzi! se non si conosce a fondo la materia, basta avere fede! Non occorre sapere bene come funzionano le cose, per predicarle e convincere altri. Aanche se ciò può causare danni immani oggi, questi sono nulla, se rapportato all’infinità del bene futuro!, un danno collaterale nel luminoso futuro di beneficio dell’umanità; d’altrondo loro sono razionali, ragionano senza bias – solo loro – e quindi loro sanno cosa sia il bene per tutti. (“effective altruism”).Gli altri sbagliano tutti. Se vi viene da pensare che abbiamo già vissuto qualche decina di anni con un sistema politico che autodecideva chi fossero “i migliori” che avevano le redini del potere, beh, pensate bene.(naturalmente i migliori non possono che fare parte del gruppo, sennò – per costruzione – non sarebbero i migliori..) Almeno non mandano gli eretici come me sul rogo, almeno per adesso. PS: questo succede quando troppi soldi sono concentrati in poche mani e quando persone con una cultura classica superficiale maneggiano così tanti miliardi. il fatto che gliene restino attaccati un po’, non fa altro che alimentare il loro convincimento di possesso della Verita’. Source: The New York Times > “Religion is text and story and ritual,” said Ilia Delio, a Franciscan sister and professor of theology at Villanova University. “All of that applies here.” > > … > > “What do cultish and fundamentalist religions often do?” Mr. Epstein added. “They get people to ignore their common sense about problems in the here and now in order to focus their attention on some fantastical future.” > > … > > Mr. Bankman-Fried had become a financial trader to benefit the most people through E.A. causes, including the fight to keep A.I. safe. In the end, he was found guilty of stealing $8 billion from his customers. > > … > > Like LessWrong, MATS can be an on-ramp to jobs at A.I. companies. Applicants to the program are often chosen by top A.I. researchers at companies like Anthropic. But for Ms. Joseph and others, the program is more than just a career move. Continua qui: _The Rise of Silicon Valley’s Techno-Religion – The New York Times_ If you like this post, please consider sharing it.

Con il rilascio dell’ultimo plugin DLSS 4, gli sviluppatori avranno accesso a una tecnologia di upscaling AI all’avanguardia per i loro giochi o progetti realizzati utilizzando l’…