Monitasoisten CRM-tehtävien suorittamisessa onnistumisprosentti tippui 35%:iin. LLM-agentit eivät myöskään osanneet hallinnoida luottamuksellisia tietoja oikeaoppisesti.
Ote artikkelista: : 6-in-10 success rate for single-step tasks
Tekohälypäivityksiä
-
New York vaatinee pian tekoälyjäteiltä turvallisuustoimien protokollien ja riskikartoistusten julkaisemista ennen uusien kielimallien julkaisemista
Lakiehdotus Responsible AI Safety and Education (RAISE) on läpäissyt jo osavaltion senaatin ja odottaa enää kuvernöörin allekirjoitusta.
Lisäksi laki edellyttäisi tekoälyjättejä muun muassa ilmoittamaan mallien varastamisista taikka tekoälyn vaarallisesta käyttäytymisestä. Sakot rikkomuksista voisivat nousta jopa 30 miljoonaan dollariin (n. 26M €). Toistaiseksi teknojätit eivät ole kommentoineet lakiehdotusta.
Ote artikkelista: New York is set to introduce one of the first laws regulating advanced AI models in the United States. The Responsible AI Safety and Education (RAISE) Act, which has already passed the state Senate, n…
-
Applen uusi tutkimusartikkeli puhkaisee päättelevien kielimallien kuplan
Teknologiajätin tutkijoiden mukaan "vallankumoukselliseksi" väitettyjen LRM-sovellusten päättelykykyä ja totesivat niiden hajoavan heti kompleksisuuden kasvaessa. Niiden päättelykyky ei niin sanotusti skaalaudu.
Tiettyyn pisteeseen asti ne näyttävät ajattelevan enemmän, mutta sen jälkeen ne vain luovuttavat vaikka laskentatehoa olisi yhä jäljellä. Ne "ylipohtivat" helppoja ongelmia ja sitten pyörittelevät vääriä vastauksia oikean jo löydyttyä. Vaikeiden ongelmien kanssa ne näyttävät "ajattelevan" vähemmän.
Tutkimuksen mukaan "perinteisemmät" LLM:t päihittävät päättelevät LRM:t yksinkertaisissa ongelmissa, kun taas LRM:t voittavat puolestaan keskitason ongelmien ratkaisemisessa. Sekä LLM:t että LRM:t romahtavat vaikeammissa ongelmissa. Tutkimuksessa testattiin muun muassa Hanoin tornien ratkaisukykyä.
Ote artikkelista: Recent generations of frontier language models have introduced Large Reasoning Models
(LRMs) that generate detailed thinking processes… -
Tuomioistuin määräsi OpenAI:n säilyttämään kaikki ChatGPT-lokit – mukaan lukien poistetut keskustelut
OpenAI:n mukaan kyseessä on valtava käyttäjien yksityisyydensuojaa heikentävä määräys. Aiemmin käyttäjien oli mahdollista kieltää sovellukselta keskusteluhistoriansa säilytys.
Ote artikkelista: OpenAI defends privacy of hundreds of millions of ChatGPT users.
-
Microsoftin tukema tekoälykoodausfirma Builder
ai paljastui petokseksi. Tekoälyapuri "Natashan" sijaan koodauksesta vastasikin 700 intialaista insinööriä. Lisäksi valmiit tuotteet olivat bugisia, toimimattomia ja vaikeita ylläpitää. Yhtiö on sittemmin hakeutunut virallisesti konkurssin.
Ote artikkelista: The unraveling began when creditor Viola Credit, which lent Builder.ai $50 million in 2023, seized $37 million from its accounts after the company defaulted.
-
Anthropicin (Claude) toimitusjohtajan mielestä tekoälymallit hallusinoivat vähemmän kuin ihmiset, mutta yllättävämmin
Nuff said.
Ote artikkelista: Anthropic CEO Dario Amodei claims that AI models hallucinate at a lower rate than humans do, but in more surprising ways.
-
Elon Muskin Grok-kielimalli alkoi sitten levittää ilmastodisinformaatiota
Grok suoltaa nyt ilmastodenialistiskenestä tuttuja sananparsia. Kyseessä on jälleen uusi esimerkki kielimallien vinoumien vaikutuksesta stokastisen mis- ja disinformaation levittäjinä.
Also: I told ya so.
Chattibotilta muutoksesta kysyttäessä se vastasi "Elon Muskin johdolla xAI otti askeleita tehdäkseen Grokista 'poliittisesti neutraalin', mikä saattaa vahvistaa vähemmistömielipiteitä, kuten ilmastoskeptismiä tasapainottaakseen koettua valtavirtavinoumaa."
Että semmottis.
Ote artikkelista: The latest version of Grok is promoting fringe climate viewpoints in a way it hasn’t done before, observers say.
-
Tekoäly yhdistetty heikkolaatuisen biolääketieteen tutkimuksen räjähdysmäiseen kasvuun
PLoS Biologyssa julkaistu tutkimus analysoi 341 julkisesta NHANES-tietokannasta tutkimusdatansa ammentavaa vuosina 2014–2024 julkaistua tutkimusartikkelia. Niistä 190 julkaistiin vuonna 2024.
Tutkijat huomasivat, että juuri yhden tekijän terveysvaikutuksiin liittyvien tutkimusten määrä oli kasvanut. Tutkijoiden mukaan tekoälyavusteinen kaavamainen lähestymistapa irrottaa tutkimustapaukset kontekstistaan, rajoittaa vuorovaikutussuhteiden havaitsemista ja välttää virhetulosten korjaamisen.
-
Windowsin uusi Recall-tekoälyominaisuus haluaisi kuvata Signal-käyttäjien viestit
Viestisovellus vastasi välittömästi uudistukseen blokkaamalla kuvankaappaukset Signalin Windows-sovelluksen käyttäjiltä. Kaappausesto on nyt oletusasetuksena ja sen voi säätää pois sovelluksen asetuksista.
Ote artikkelista: Even after its refurbishing, Recall provides few ways to exclude specific apps.
-
Suurin osa LLM-palveluista saadaan antamaan vaarallisia vastauksia varsin helposti
Tutkijat kehittivät tavan "murtaa" LLM:t ohjeistamaan laittomuuksiin ja muihin epäeettisiin käyttötapoihin kuten rahanpesuun ja pommien tekemiseen, mistä ne normaaleissa käyttötapauksissa kieltäytyisivät.
Kun huolestuneet tutkijat ottivat yhteyttä johtaviin kielimallipalveluiden tarjoajiin, he eivät saaneet vastakaikua. Moni yrityksistä jätti kokonaan vastaamatta, kun taas osa ilmoitti, ettei moiset murtamiset kuulu kyseisten yritysten haavoittuvuuksien paljastamisesta palkitsevien ohjelmien piiriin.
Ote artikkelista: Researchers say threat from ‘jailbroken’ chatbots trained to churn out illegal information is ‘tangible and concerning’
