Az AI rendszerek egyre összetettebbé és elterjedtebbé válnak, ezért egyre nagyobb kihívást jelent azok viselkedésének átfogó vizsgálata és biztonsági szempontú értékelése. A Petri (Parallel Exploration Tool for Risky Interactions) egy új, nyílt forráskódú auditáló eszköz, amelyet kifejezetten az AI modellek viselkedésének gyors és hatékony elemzésére fejlesztettek ki. A Petri jelentősen megkönnyíti a kutatók munkáját azáltal, hogy automatizált módon teszteli és értékeli a mesterséges intelligencia rendszerek különböző helyzetekben tanúsított reakcióit. Hogyan működik a Petri? A Petri egy automatikus auditáló ügynököt használ, amely párhuzamosan többféle, többlépéses beszélgetést folytat a vizsgált AI modellel. Ezekben a párbeszédekben a rendszer szimulált felhasználók és eszközök segítségével teszteli a modell viselkedését különböző, előre megadott forgatókönyvek alapján. A…