Az Anthropic AI-cég vezetője a fejlesztés lassítását sürgeti biztonsági okokból
A vezető amerikai mesterségesintelligencia-(AI-)vállalat, az Anthropic vezetője az új rendszerek fejlesztésének lassítására szólított fel, hogy a biztonsági intézkedéseknek legyen idejük felzárkózni.
Ha az iparág nem fékez le, figyelmeztetett Dario Amodei vezérigazgató a weboldalán közzétett bejegyzésében, hat-tizenkét hónapon belül az AI képes lehet arra, hogy ügynökök egy raját vezesse, amely átveheti az egész internet irányítását.
A felügyeleti szervek évek óta sürgetik az AI-ágazatot, hogy biztonsági okokból lassítsa a fejlesztést, de a nyomás a közelmúltban fokozódott, mivel az iparág dolgozói felmondanak, és azzal vádolják vállalataikat, hogy nem cselekszenek felelősségteljesen.
Amodei úr tervet javasolt az iparág ellenőrzésének fokozására, amelyek egy része az egész iparágra kiterjedő egyeztetést és a világ kormányaival való együttműködést igényelne.
„Hiszem, hogy ha a lassítás akár csak egy-két plusz évet adna nekünk, mielőtt a modellek elérik a kritikus képességi szinteket, és ezt az időt az összehangolás előmozdítására használnánk, nagymértékben csökkenthetnénk annak kockázatát, hogy valami súlyosan félremegy” – mondta.
Évek óta növekszik az aggodalom egy lehetséges szuperintelligenciával kapcsolatban, amely kikerülhet az emberiség ellenőrzése alól – mondta Anthony Aguirre, a Future of Life Institute elnöke és vezérigazgatója, aki 2023-ban hat hónapos szünetet sürgetett az iparág fejlesztésében.
„Gyakorlatilag világossá vált a világ és még az AI-vállalatok számára is, hogy valójában nincsenek felkészülve az általuk létrehozni igyekezett AI-rendszerek irányítására” – mondta.
Az Anthropic két nappal korábban közölte, hogy megakadályozta az erőfeszítéseket, amelyek arra irányultak, hogy AI-modelljeit rosszindulatú tevékenységekre használják, például kibertámadásokra, megfigyelésre és olyan kutatásra, amely biológiai fegyverekhez vezethetett volna.
Volker Turk, az Egyesült Nemzetek emberi jogi főbiztosa a héten korábban arra sürgette az országokat, hogy „mielőtt túl késő, helyezzenek el vasbiztos garanciákat az AI biztonsága és védelme köré”.
forrás: Morning Star
