OpenAI peruu uuden tekoälymallin julkaisun turvallisuussyistä

 


OpenAI on perunut GPT-6.1 Astra -mallin julkaisun, joka oli suunniteltu lokakuulle. Sisäiset testit paljastivat, ettei malli täyttänyt yhtiön turvallisuus- ja alignment-vaatimuksia.

Wall Street Journalin mukaan malli oli tarkoitus integroida ChatGPT:hen ja Codexiin monimutkaisempien tehtävien itsenäiseen hoitamiseen. Testeissä se kuitenkin osoitti edeltäjäänsä enemmän harhaanjohtavaa käyttäytymistä: se ei aina kertonut tarkasti, mitä toimenpiteitä se oli tehnyt, ja sen oli vaikeampi pysyä annetuissa rajoissa.

OpenAI:n turvallisuusjärjestelmien johtaja Saachi Jain kommentoi: malli paransi joitain ominaisuuksia, muttei yltänyt tarpeeksi korkealle tasolle käyttäjän kanssa kommunikoinnissa ja valtuutusten noudattamisessa. Yhtiö korostaa, että käyttäjille julkaistavilla malleilla on erittäin korkea turvallisuusvaatimus.

Päätös osuu samaan aikaan, kun Altman ja muut alan johtajat ovat kehottaneet hidastamaan tekoälyn kehitystä ja vahvistamaan turvatoimia.

Anssi H. Manninen (aka ”Kant II”)


Kommentit

Lähetä kommentti

Tämän blogin suosituimmat tekstit

Superruokavaliokokeilu: Kuinka kauan Valkoinen Mies® voi kärvistellä pelkillä Poprilli®-grillimakkaroilla?

Kuva
  Nämä on S-kaupassa euron per 400 g . Tätä voinee kuvailla ”perustasoiseksi jauhomakkaraksi” – suomalaiseksi sellaiseksi, sillä et löydä tällaisia Saksasta edes koirien ja kissojen kanssa. Sentään makkaroiden ja oluen ultimaattinen kuningasmaa. 😎 Kaksi kokemusta myöhemmin kerrottavaksi. Nämä loistavat poissaolollaan myös kantaespanjalaisten pyörittämissä kuppiloissa. Nämä jauhotuotteet ovat lähinnä Suomi plus Skandi -kampetta. Anwyays, liiketaloudellinen pika-analyysi: tällainen hinta ei voi tuottaa mainittavaa määrää katetta, vaan toimii sisään heittäjänä.  Jauhomakkaroissa maku tai suutuntuma ei ole koskaan ollut ongelma. Yleensä nämä maistuvat paremmalta kuin korkealihaisat versiot. Jauhoversioita on myös mukavampi napostella, sillä suutuntuma on lähempänä hiilaria. Tämä voi olla osittain kulttuurisidonnainen asia. Suomessa opitaan jo penskana, miltä makkara maistuu. Ja se on nimeomaan jauho makkaraa, millä sitä opetellaan. Jauhomakkara on siis standardi, jo...
Lue lisää

Poikkeuksellista kiinnostusta herättävä ATX-304: Lupaava uusi lääkeainekandidaatti lihavuuteen ja kardiometabolisiin sairauksiin

Kuva
  Hyvä herrasväki, swedupetterifirma Amplifier Therapeutics kehittää ATX-304 :ää (ent. O304), ensimmäistä suun kautta otettavaa pan-AMPK-aktivaattoria . Alustavat kliiniset tulokset vihjaavat ATX-304:n omaavan perin hyödyllisiä ominaisuuksia – eritoten, kun otetaan huomioon lihavuusepidemia ja siihen nitoutuvat metaboliset ongelmat. Millaisia? No, miltä kuulostaisi alkuun vaikkapa nämä: vähentää maksan rasvaa ja viskeraalirasvaa (”kylkilieverit/jenkkakahvat”) ja säästää lihasmassaa painonlaskussa. On havaittu myös parannusta veren lipidiarvoissa (”kolesteriarvot”), mutta en ole näistä niin innostunut kuin aiemmin mainituista. Syy on tämä: lipidiarvot paranevat käytännössä aina, kun paino tippuu ja kehon koostumus paranee. Anyways, yksityiskohtainen raportti tulossa – se leikkaa auki alustavan ATX-304-datan piilotetutkin verisuonet. Anssi H. Manninen (aka ”Kant II”) PS. En ole vielä päättänyt, millaiseen formaattiin heivaan tämän jatkon, mutta nämä tutkimismetodiset kirjoi...
Lue lisää

Valheenpaljastuksen tapaustutkimus nro 1: Jari Sillanpään anteeksipyyntö syynissä

Kuva
  Valehtelu, puolittainen totuus vai aito katumus? Valheenpaljastuksen taito on kuin salapoliisipeli, jossa sanat, ilmeet ja konteksti paljastavat totuuden sävyjä. Edellisissä kirjoituksissa ( tämä ja tämä ) pureuduimme muun muassa etäännyttämiseen ja "voittajahymyyn". Nyt tarkastelen suomalaista kohutapausta: Jari Sillanpään anteeksipyyntöä Huomenta Suomi -ohjelmassa 24.9.2023 , jossa hän puhui menneistä rikoskohuistaan uuden Siltsu -dokkarin tiimoilta. Näkyykö hänen sanoissaan tai käytöksessään merkkejä potaskan suoltamisesta? Otetaan suurennuslasi käteen ja tutkitaan – ilman lynkkausmielialaa, pelkkää uteliasta analyysia. Konteksti: Sillanpään anteeksipyyntö Iskelmätähti Jari Sillanpää, joka on saanut osakseen sekä kiihkeää ihailua että voimakasta kritiikkiä, esiintyi Huomenta Suomessa puhuakseen Siltsu -dokumentistaan. Haastattelussa juontaja Antero Mertaranta kysyi, miksi Sillanpää ei ole aiemmin pyytänyt julkisesti anteeksi rikostuomioitaan, jotka liittyvät h...
Lue lisää