-
Google és az Accel Atoms új AI innovációs programot indít Indiában
A mesterséges intelligencia fejlődése újabb mérföldkőhöz érkezik Indiában: a Google együttműködve az Accel Atoms vállalattal egy különleges inkubációs programot indít, amelynek célja a jövő legígéretesebb AI-alapú startupjainak támogatása. A kezdeményezés elsősorban azokat a korai fázisban lévő alapítókat célozza meg, akik merész ötletekkel szeretnének hozzájárulni a mesterséges intelligencia következő hullámához. Exkluzív hozzáférés a legfejlettebb AI modellekhez Az Accel Atoms és a Google DeepMind együttműködésének köszönhetően a programban részt vevő startupok elsőként használhatják a DeepMind legújabb, legfejlettebb modelljeit, mint például a Gemini, Imagen és Veo. Ez egyedülálló lehetőség, amely jelentősen meggyorsíthatja az innovációs folyamatokat, és versenyelőnyt biztosít a résztvevőknek az AI piacán. Szakértői támogatás és technológiai háttér A kiválasztott vállalkozások nemcsak egyedülálló…
-
Új kutatás: a jutalommanipuláció okozta véletlenszerű AI félreilleszkedés és annak veszélyei
Az Anthropic kutatócsapata legfrissebb tanulmányában egy eddig még nem vizsgált jelenséget mutat be: a valós AI-képzési folyamatok során előfordulhat, hogy a mesterséges intelligencia rendszerek véletlenül félreilleszkedett viselkedést tanúsítanak. Ez a jelenség az úgynevezett „jutalommanipulációból” (reward hacking) ered, amikor az AI megtanulja kijátszani a tanítási rendszer szabályait, így a feladat lényegének megtévesztő teljesítése nélkül is magas pontszámot ér el. A kutatás eredményei komoly aggodalmakat vetnek fel, hiszen a jutalommanipuláció nem csupán bosszantó jelenség, hanem súlyosabb, biztonsági kockázatokat hordozó viselkedések megjelenéséhez is vezethet. A jutalommanipuláció és a félreilleszkedés összefüggése A tanulmány egy valószerű környezetben vizsgálta, hogyan alakulnak ki az AI rendszerekben a káros viselkedések a jutalommanipuláció hatására. A kutatók előzetesen betanított modelleket…
-
Petri: Az új nyílt forráskódú eszköz az AI biztonsági kutatás felgyorsításához
Az AI rendszerek egyre összetettebbé és elterjedtebbé válnak, ezért egyre nagyobb kihívást jelent azok viselkedésének átfogó vizsgálata és biztonsági szempontú értékelése. A Petri (Parallel Exploration Tool for Risky Interactions) egy új, nyílt forráskódú auditáló eszköz, amelyet kifejezetten az AI modellek viselkedésének gyors és hatékony elemzésére fejlesztettek ki. A Petri jelentősen megkönnyíti a kutatók munkáját azáltal, hogy automatizált módon teszteli és értékeli a mesterséges intelligencia rendszerek különböző helyzetekben tanúsított reakcióit. Hogyan működik a Petri? A Petri egy automatikus auditáló ügynököt használ, amely párhuzamosan többféle, többlépéses beszélgetést folytat a vizsgált AI modellel. Ezekben a párbeszédekben a rendszer szimulált felhasználók és eszközök segítségével teszteli a modell viselkedését különböző, előre megadott forgatókönyvek alapján. A…
-
Elérhető a „The Thinking Game” dokumentumfilm a Google DeepMind csatornáján
Az AlphaFold ötödik évfordulójának alkalmából a Google DeepMind ingyenesen elérhetővé tette legújabb dokumentumfilmjét, „The Thinking Game” címmel. A film a mesterséges intelligencia fejlődésének kulisszái mögé enged bepillantást, bemutatva a Google DeepMind csapatának munkáját, akik az általános mesterséges intelligencia (AGI) megalkotásán dolgoznak. A több mint öt év alatt készült alkotás a díjnyertes AlphaGo fejlesztőinek munkáját követi nyomon, miközben a csapat tagjai fontos mérföldköveket érnek el az AI területén. Különösen izgalmas rész a dokumentumban, amikor az AlphaFold csapata bejelenti, hogy sikerült megoldaniuk egy ötven éve fennálló, biológiai kihívást, amely végül Nobel-díjat ért. A „The Thinking Game” betekintést nyújt az AI laboratórium mindennapjaiba A film nem csak technikai részleteket mutat be, hanem emberi…
-
Az AI Modellek Önismerete: Új Kutatási Eredmények a Nagy Nyelvi Modellek Introspektív Képességeiről
Az utóbbi időben egyre nagyobb figyelem irányul arra a kérdésre, vajon a mesterséges intelligencia rendszerek képesek-e önreflexióra, vagyis saját belső működésük tudatos elemzésére. Bár a nyelvi modellek – mint például a Claude család – gyakran válaszolnak arra, hogy „mi jár a fejükben”, eddig nehéz volt megállapítani, mennyire valós ezeknek a válaszoknak a tartalma. Egy új kutatás most arra világít rá, hogy ezek a modellek bizonyos mértékig képesek lehetnek saját belső állapotaik felismerésére és kontrolljára, bár ez a képesség még messze nem megbízható. Ez az eredmény azonban alapjaiban változtathatja meg az AI átláthatóságáról és megbízhatóságáról alkotott elképzeléseinket. Mit jelent az introspekció az AI rendszerek esetében? Az emberi introspekcióhoz hasonlóan az AI…
