Heikoimmin dis/misinformaation tunnistamisesta suoriutuivat Llama, Mistral, Gemini ja GPT-4. "Yksityisomisteiset" mallit pärjäsivät kuitenkin avoimen lähdekoodin malleja paremmin.
Tutkimuksessa käytettiin 28 900 englanninkielisen tekstikappaleen aineistoa, joka oli kerätty 53 eri ilmastoskeptiseltä verkkosivustolta ja -blogilta. Sen päälle koulutettiin ilmastoteemaan erikoistunut GPT-3.5-turbo3 -malli, joka luonnollisesti voitti mallivertailun.
Linkki tutkimukseen alla:
'Slopsquatting'-termillä tarkoitetaan sitä, kun hallusinoituja/virheellisiä ohjelmointikirjastoja hyödynnetään ikäviin tarkoituksiin. Kun kirjaston nimi hallusinoidaan (sitä ei ole), normaalisti lopputulos olisi virheilmoitus.
1/
Kun sitten pahaa tahtova taho luokin sellaisen kirjaston, jota "ei ole olemassa" perustuen yleisimmin tunnettuihin LLM-hallusinointeihin, pahaa-aavistamaton aloitteleva koodaaja päätyy avaamaan oman koodinsa mahdollisesti merkittävillekin haavoittuvuuksille – ja LLM-koodista tulee haittaohjelma.
2/
Haittapakettien varmistaminenkin voi olla vaikeaa, sillä esim. Google-tulokset voivat antaa ylistävän tiivistelmän haittapaketin sisällöstä, sillä se saattaa perustaa hakutuloksen ja arvion itse paketin README-tiedostoon.
Avoimissa malleissa tekaistuja kirjastoja voi olla jopa viidesosa.
3/3
Ote artikkelista: A new class of supply chain attacks named 'slopsquatting' has emerged from the increased use of generative AI tools for coding and the model's tendency to "hallucinate" non-existent package names.
Paikalliset sähköverkot kun rakentuvat pitkälti fossiilisten polttoaineiden varaan. Kansainväliset sähköntuotannon päästöt tekoälysirutuotannossa kasvoivat viime vuonna 357%.
Vuoteen 2030 mennessä tekoälysirutuotannon sähkötarpeen odotetaan kasvavan 170-kertaiseksi vuoden 2023 tasoon verrattuna – eli noin koko Irlannin sähkötarpeen. Ja tämä siis vain sirutuotannossa. Tekoälyn todellinen sähkötarve on vielä merkittävästi suurempi.
Linkki tutkimukseen löytyy alta:
Ote artikkelista: Electricity consumption from the manufacture of artificial intelligence (AI) chips has soared by more than 350 percent worldwide between 2023 and 2024,
Ydinvoima kun ei ollut riittävän kehno idea. Eittämättä toteutuessaan AI-hiilijalanjälki kasvaisi ennestään, mutta saisipahan tekohengitettyä kuolevaa alaa. Samaan aikaan Microsoft vetäytyy miljardiluokan datakeskusdiileistä.
Ote artikkelista: A bold executive order ties coal to America's AI race–investors are watching, and the stakes just got higher.
@sanasto.bsky.social laati kirjailijoille ohjeistuksen sen varalta, mikäli oma kirja löytyy Metan käyttämästä LibGen-piraattikirjastosta. Suurin osa kirjoista on viimeisen 20 vuoden ajalta.
Ote artikkelista: Yhdysvaltalainen teknologiayhtiö Meta on käyttänyt laittomasti ladattuja kirjoja tekoälymallinsa kouluttamiseen. Meta on käyttänyt tekoälyn kouluttamiseen laitonta piraattikirjastoa, josta löytyy myös…
Kielimallit eivät useinkaan itse huomioi generoimansa koodin haavoittuvuuksia tai huomauta niistä ellei niitä ole erikseen kehotettu huomioimaan. Vertailussa Claude 3, GPT-4 ja Llama 3.
Ote artikkelista: The widespread adoption of conversational LLMs for software development has raised new security concerns regarding the safety of LLM-generated content. Our motivational study outlines ChatGPT's potent…
Tiedotteen mukaan aiemmat kielimallit ovat olleet vinoutuneita vasemmalle, joten nyt tehdään korjausliike (esimerkkinä Grok). Jos esim. ilmastonmuutos on määritelty poliittiseksi, ei siitä enää saane tarkkaa tietoa.
Ote artikkelista: We’re introducing Llama 4 Scout and Llama 4 Maverick, the first open-weight natively multimodal models with unprecedented context support and our first built using a mixture-of-experts (MoE) architect…
The Vergen artikkelin mukaan ChatGPT, Claude, Gemini ja Grok kaikki käyttävät samankaltaista pöhköä tariffilaskelmaa. Gemini sentään vähän varoitteli yliyksinkertaistettujen laskelmien käytöstä. Varmuutta asialle ei tokikaan saada.
Ote artikkelista: ChatGPT may be the White House’s latest economic advisor.
Muun muassa NVIDIA:lle serveritilaa myyvä ja siltä siruja ostavan tekoälyserveritarjontaan keskittyvän yrityksen listautumisanti lässähti – viestien markkinoiden epävarmuudesta #tekoäly -pöhinän suhteen.
Anti keräsi miljardi dollaria. Velkaa yrityksellä on 8 miljardia.
Samalla Microsoft vetäytyi $12mrd datakeskussopimuksesta CoreWeaven kanssa toimitusvaikeuksien ja määräaikojen ylitysten vuoksi. Microsoftin tukema OpenAI puolestaan ilmoittautui paikkaamaan tilannetta ja otti sopimuksen kontolleen.
Ote artikkelista: CoreWeave's shares were set to open nearly 18% above their offer price in their Nasdaq debut on Friday, giving the Nvidia-backed AI infrastructure firm a potential valuation of $27.4 billion on a fully diluted basis.
Alati aggressiivisemmiksi käyvät LLM-hakurit raapivat verkosta tietoa sitä jo tahtia, että FOSS-infra (mm. Fedora) kärsii DDoS-hyökkäysten kaltaisista oireista ja menee nurin. Mallit kun eivät kunnioita robot.txt-filuja.
Ote artikkelista: LLM scrapers are taking down FOSS projects' infrastructure, and it's getting worse.
