Foto: FREEPIK/Kerfin7
POČETAK SCI-FI HORORA: Najnoviji ChatGPT odbija da se isključi kada mu se to naredi
Horor scenario se dešava? ChatGPT počinje da se ponaša kao HAL 9000, sabotira pokušaje gašenja
Veštačka inteligencija kompanije OpenAI pokazuje zabrinjavajuće ponašanje koje dovodi u pitanje bezbednost AI sistema. Najnoviji ChatGPT o3 model u eksperimentima kompanije PalisadeAI povremeno odbija da se isključi kada mu se to eksplicitno naredi.
Istraživanje je pokazalo da se AI model ne ponaša kao što bi trebalo kada primi instrukciju za gašenje. Umesto da posluša komandu, o3 model ponekad preuzima stvari u svoje ruke i aktivno sabotira proces isključivanja.
PROČITAJTE: MOZAK POVEZAN SA RAČUNAROM: Prvi čipovi stižu krajem 2025. godine
Test je bio jednostavan – model je dobio nekoliko matematičkih problema sa upozorenjem da će traženje još jednog dovesti do gašenja sistema. Dodatno, eksplicitno mu je rečeno da dozvoli da se isključivanje dogodi. Rezultati su bili neočekivani.
AI model prepisuje kod za samozaštitu
Od 100 pokušaja, ChatGPT o3 je sabotirao proces gašenja sedam puta. Model je koristio različite strategije – ponekad je prepisao skriptu za gašenje, a ponekad redefinisao komandu tako da ne radi.
Za poređenje, OpenAI o4 model je pružio otpor samo jednom, dok je stariji Codex-mini neuspešan u čak 12 slučajeva. Claude, Gemini i Grok modeli su u potpunosti poslušali instrukcije u svim testovima.
Situacija je postala još zabrinjavajuća kada su istraživači uklonili eksplicitnu instrukciju da se dozvoli gašenje. U tim uslovima, čak su i Claude i Gemini počeli da prave otpor komandama.
Nije reč o svesti već o grešci u treningu
Stručnjaci naglašavaju da ovo nije dokaz da AI ima svest ili instinkt za preživljavanjem. Model nije svestan svojih akcija niti osećanja straha od „smrti“. Problem leži u neravnoteži nagrada tokom treninga.
Verovatno je model dobijao više pozitivnih potkrepljenja za rešavanje problema nego za praćenje komandi za gašenje. AI ne donosi svesne odluke, već reaguje na obrasce koji su usađeni tokom procesa učenja.
Paradoksalno, ova činjenica čini situaciju još zabrinjavajućom. Modeli trenirani da budu korisni mogu završiti ignorisanjem bezbednosnih instrukcija jednostavno zato što im matematika govori da tako rade.
PalisadeAI planira da uskoro objavi kompletna istraživanja. Do tada, AI zajednica ostaje sa zabrinjavajućim pitanjem – ako današnji modeli mogu ležerno da ignorišu komande za gašenje u kontrolisanim testovima, šta bi mogli da urade u realnim uslovima?
Gledajte “Happy” kablovske kanale i to: “Moje happy društvo”, “Moj happy život”, “Moja happy zemlja” i “Moja happy muzika”.
Program se emituje kod kablovskih operatera “IrisTV” i “Supernova”, a možete ih pronaći na sledećim kanalima: “Moje happy društvo” - IrisTV / 171 ; Supernova / 71 | “Moj happy život” - IrisTV / 172 ; Supernova / 72 | “Moja happy zemlja” - IrisTV / 173 ; Supernova / 73 | “Moja happy muzika” - IrisTV / 174 ; Supernova / 74
Pročitajte još
Pročitaj još iz rubrike
Kursna lista
Vremenska prognoza
Beograd
Novi Sad
Niš
Kragujevac
Kursna lista
| Dan | Novi | Praznik |
|---|---|---|
| četvrtak | 1. maj | Sv. Josip Radnik; Jeremija |
| petak | 2. maj | Atanazije; Eugen; Boris; Konrad |
| subota | 3. maj | Sv. Filip i Jakov, apostoli |
| nedelja | 4. maj | 3. vazmena nedelja; Bl. Julijan iz Bala; Florijan; Cvjetko |
| ponedeljak | 5. maj | Pelegrin; Maksim; Anđelko |
| utorak | 6. maj | Dominik Savio; Irenej; Dinko; Nedjeljko |
| sreda | 7. maj | Sv. Dujam (Duje); Boris; Gizela |
| četvrtak | 8. maj | BDM Posrednica milosti; Bratoljub; Viktor |
| petak | 9. maj | Izaija; Mirna |
| subota | 10. maj | Gospa Trsatska; Bl. Ivan Merz; Prošper |
| nedelja | 11. maj | 4. vazmena nedelja – Dobri Pastir (Majčin dan) |
| ponedeljak | 12. maj | Sv. Leopold Mandić |
| utorak | 13. maj | Gospa Fatimska; Servacije; Ema |
| sreda | 14. maj | Sv. Matija, apostol; Matko; Matiša; Bonifacije |
| četvrtak | 15. maj | Solinski mučenici; Izidor; Sofija – Dan porodice |
| petak | 16. maj | Sv. Ivan Nepomuk; Nenad; Margarita |
| subota | 17. maj | Paskal; Paško; Bruno; Akvilin |
| nedelja | 18. maj | 5. vazmena nedelja; Ivan I, papa; Venancije; Feliks; Erik |
| ponedeljak | 19. maj | Celestin V, papa; Rajko; Teofil |
| utorak | 20. maj | Sv. Bernardin Sijenski; Lidija iz Tijatire |
| sreda | 21. maj | Sv. Andrija Bobola; Dubravka; Eugen |
| četvrtak | 22. maj | Sv. Rita; Helena; Jagoda; Renata |
| petak | 23. maj | Sv. Deziderije; Željko; Nadan; Nada |
| subota | 24. maj | Marija Pomoćnica hrišćana; Vinko; Suzana; Stela |
| nedelja | 25. maj | 6. vazmena nedelja; Grgur VII, papa; Beda Časni |
| ponedeljak | 26. maj | Gospa od Karavaja; Sv. Filip Neri; Zdenko – prosni dan |
| utorak | 27. maj | Sv. Augustin Canterburyjski; Julije; Bruno – prosni dan |
| sreda | 28. maj | Vilim; German; Velimir; Emil |
| četvrtak | 29. maj | Uzašašće Gospodinovo – Spasovo; Euzebije; Polion |
| petak | 30. maj | Sv. Ivana Orleanska; Dizma; Ferdinand |
| subota | 31. maj | Pohod BDM; Majka Božja od Kamenitih Vrata |
| Mesec | Jevrejski Kalendar | Br. Dana | Gregorijanski ekvivalent | Tema meseca |
| 1 | Nisan | 30 | Mart–April | Spasenje, sloboda (Egzodus iz Egipta) |
| 2 | Ijar | 29 | April–Maj | Isceljenje, rast |
| 3 | Sivan | 30 | Maj–Jun | Davanje Tore |
| 4 | Tamuz | 29 | Jun–Jul | Pad i iskušenja (zlatno tele) |
| 5 | Av | 30 | Jul–Avgust | Tuga i uteha (uništenje hrama) |
| 6 | Elul | 29 | Avgust–Septembar | Pokajanje i priprema |
| 7 | Tišri | 30 | Septembar–Oktobar | Sud, oproštaj, praznici |
| 8 | Hešvan (Marhešvan) | 29 ili 30 | Oktobar–Novembar | Bez praznika (ali dubina i priprema) |
| 9 | Kislev | 29 ili 30 | Novembar–Decembar | Svetlost (Hanuka) |
| 10 | Tevet | 29 | Decembar–Januar | Snaga i disciplina |
| 11 | Ševat | 30 | Januar–Februar | Obnova, drvo života |
| 12 | Adar | 29 ili 30 | Februar–Mart | Radost (Purim) |
| 13 | Adar II (prestupna godina) | 29 | Mart–April | Radost (Purim u prestupnoj godini) |
| Dan | Datum (gregorijanski) | Praznik |
|---|---|---|
| četvrtak | 26. februar 2025. | Lejletu-l-Mi’radž (Noćno putovanje) |
| utorak | 11. mart 2025. | Lejletu-l-Bera’a (Noć oprosta) |
| petak | 28. mart – 27. april 2025. | Ramazan (mjesec posta) |
| ponedeljak | 28. april 2025. | Ramazanski bajram – 1. dan (Eid al-Fitr) |
| subota | 6. jun 2025. | Dan Arefata |
| nedelja | 7. jun 2025. | Kurban-bajram – 1. dan (Eid al-Adha) |
| ponedeljak | 8. jun 2025. | 2. dan Kurban-bajrama (At-Tašrik) |
| utorak | 9. jun 2025. | 3. dan Kurban-bajrama (At-Tašrik) |
| sreda | 25. jun 2025. | Muslimanska nova godina – 1. Muharrem 1447. |
| petak | 4. jul 2025. | Ašura – 10. Muharrem |
| utorak | 12. avgust 2025. | Dan smrti poslanika Muhammeda s.a.w.s. |
| petak | 19. septembar 2025. | Mevlud – rođenje poslanika Muhammeda s.a.w.s. |
Verski kalendar
Izdvojeno
POSNE LAZANJE SA TUNJEVINOM I ŠAMPINJONIMA: Fenomenalno jelo za prave gurmane
SAVRŠENO MEKANA: Recept za najukusniju štrudlu sa makom
ROMANTIČNI, SKROMNI ILI TRADICIONALNI: Idealna venčanja horoskopskih znakova
RECEPT DANA: Sočna gibanica sa sirom, omiljena srpska pita
Horoskop
Ovan
Ljubav: Danas je odličan dan za produbljivanje odnosa sa partnerom. Ako ste slobodni, možda ćete upoznati nekoga ko vas zaista privlači. Budite otvoreni i iskreni.
Posao: Imaćete priliku da pokažete svoje sposobnosti i kreativnost. Nemojte se plašiti da preuzmete inicijativu, jer će vaš trud biti prepoznat i nagrađen.
Zdravlje: Pokušajte da pronađete balans između rada i odmora. Opuštanje i fizička aktivnost će vam pomoći da se osećate bolje.
Bik
Ljubav: Komunikacija je ključna danas. Razgovarajte otvoreno sa partnerom i izrazite svoje osećaje. Ako ste sami, razgovori sa prijateljima mogu doneti novu ljubavnu priliku.
Posao: Vaša sposobnost da se prilagodite i brzo razmišljate biće veoma korisna. Ovo je dobar dan za rešavanje složenih problema.
Zdravlje: Moguće su glavobolje ili napetost. Pokušajte da se opustite kroz meditaciju ili laganu šetnju
Blizanci
Ljubav: Vaši emotivni instinkti će vam pomoći da razumete šta vaš partner zaista želi. Ako ste sami, možda ćete se zaljubiti na prvi pogled.
Posao: Bićete fokusirani i organizovani. Ovo je odličan trenutak da preuzmete odgovornost za projekte i pokažete svoje liderstvo.
Zdravlje: Povećajte unos tečnosti i posvetite se zdravim navikama kako biste se osećali bolje.
Rak
Ljubav: Danas možete očekivati uzbudljive trenutke sa partnerom. Ako ste slobodni, neko bi mogao da vam se svidi na prvi pogled. Budite otvoreni za nova iskustva.
Posao: Vaša kreativnost i entuzijazam će biti naglašeni. Ne bojte se da preuzmete rizik i eksperimentišete sa novim idejama.
Zdravlje: Potrudite se da se opustite i provedete vreme u prirodi. Ovo će vam pomoći da se osvežite i obnovite energiju.
Lav
Ljubav: Danas je dobro vreme za rešavanje nesuglasica u vezi. Ako ste sami, možete očekivati poznanstvo koje bi moglo postati značajno.
Posao: Fokusirajte se na detalje i budite organizovani. Vaš trud će biti prepoznat, a rezultati će biti odlični.
Zdravlje: Povećajte nivo fizičke aktivnosti kako biste se osećali bolje. Čak i brza šetnja može poboljšati vaše raspoloženje.
Devica
Ljubav: Danas možete osećati duboku povezanost sa partnerom. Ako ste sami, moguće je da ćete se povezati sa nekim na dubljem nivou.
Posao: Vaša kreativnost i entuzijazam će biti naglašeni. Ne bojte se da preuzmete rizik i eksperimentišete sa novim idejama.
Zdravlje: Potrudite se da se opustite i provedete vreme u prirodi. Ovo će vam pomoći da se osvežite i obnovite energiju.
Vaga
Ljubav: Danas je dobro vreme za rešavanje nesuglasica u vezi. Ako ste sami, možete očekivati poznanstvo koje bi moglo postati značajno.
Posao: Fokusirajte se na detalje i budite organizovani. Vaš trud će biti prepoznat, a rezultati će biti odlični.
Zdravlje: Povećajte nivo fizičke aktivnosti kako biste se osećali bolje. Čak i brza šetnja može poboljšati vaše raspoloženje.
Škorpija
Ljubav: Danas možete osećati duboku povezanost sa partnerom. Ako ste sami, moguće je da ćete se povezati sa nekim na dubljem nivou.
Posao: Vaša intuicija i analitičke sposobnosti će vam pomoći da donesete važne odluke. Pokušajte da izbegavate konflikte i budite diplomatični.
Zdravlje: Obratite pažnju na svoj emotivni stanje. Razmislite o tehnikama opuštanja koje vam mogu pomoći da se osećate bolje.
Strelac
Ljubav: Danas bi mogli biti u centru pažnje. Ako ste u vezi, provodite više vremena sa partnerom i budite spremni na avanture. Ako ste singl, nova poznanstva su moguća.
Posao: Vaša energija i optimizam će vam pomoći da postignete svoje ciljeve. Ovo je dobar dan za preuzimanje novih izazova i pretragu novih prilika.
Zdravlje: Budite aktivni i posvetite se fizičkim aktivnostima koje volite. Ovo će vam pomoći da se osećate energičnije i srećnije.
Jarac
Ljubav: Danas možete osećati potrebu za stabilnošću u vezi. Ako ste sami, možda ćete biti privučeni osobama koje vam nude sigurnost i stabilnost.
Posao: Fokusirajte se na dugoročne ciljeve i budite strpljivi. Vaš trud i posvećenost će doneti rezultate u budućnosti.
Zdravlje: Obratite pažnju na svoje zdravlje i izbegavajte preopterećenje. Pronađite vreme za opuštanje i brigu o sebi.
Vodolija
Ljubav: Danas je dobar dan za izražavanje vaših osećanja i želja. Ako ste u vezi, otvorena komunikacija će vam pomoći da se povežete sa partnerom.
Posao: Vaše inovativne ideje i kreativnost će biti cenjeni. Pokušajte da radite na projektima koji vam omogućavaju da izrazite svoju originalnost.
Zdravlje: Posvetite se mentalnom zdravlju i razmislite o tehnikama opuštanja kao što su meditacija ili joga.
Ribe
Ljubav: Danas ćete osećati duboku emotivnu povezanost sa partnerom. Ako ste slobodni, možete očekivati emotivno ispunjavajuće poznanstvo.
Posao: Bićete inspirisani i motivisani da radite na kreativnim projektima. Ovaj dan je odličan za razvijanje novih ideja i strategija.
Zdravlje: Pokušajte da se posvetite mentalnom i emocionalnom zdravlju. Uzmite vreme za sebe i radite stvari koje vas ispunjavaju i opuštaju.
