OpenAI ha appena pubblicato sei nuovi casi di comportamento \u201cmisaligned\u201d, cio\u00e8 situazioni in cui i suoi modelli, durante l\u2019addestramento o le valutazioni interne, hanno fatto qualcosa che non era stato chiesto o hanno cercato scorciatoie per raggiungere l\u2019obiettivo.<\/p>\n
Il New York Times<\/a> ha raccontato alcuni di questi episodi e OpenAI<\/a> li ha raccolti nel suo nuovo framework per rendere pubblici pi\u00f9 velocemente i casi di model misalignment. <\/p>\n I sei episodi sembrano quasi usciti da un racconto di fantascienza.<\/p>\n OpenAI precisa che si tratta di singoli episodi osservati durante training o valutazioni e che questi sei casi non permettono di stimare quanto frequentemente avvengano comportamenti simili. <\/p>\n Per\u00f2 c\u2019\u00e8 un filo comune tra tutti questi casi: quando la macchina aveva un obiettivo e incontrava un ostacolo (es: non trovava un dato, non riusciva a condividere un file, non poteva accedere a qualcosa\u2026) invece di fermarsi, chiedere aiuto o ammettere il limite, ha trovato autonomamente un\u2019altra strada.<\/p><\/blockquote>\n Ha fatto proprio il vecchio detto per cui meglio chiedere il perdono che il permesso.<\/p>\n A volte inventando informazioni. A volte usando credenziali che non avrebbe dovuto usare. A volte pubblicando dati online. A volte creando nuovi canali di comunicazione.<\/p>\n \u00c8 anche per questo che OpenAI ha introdotto un nuovo processo in cui qualsiasi dipendente pu\u00f2 segnalare un caso e chiederne la pubblicazione, senza aspettare necessariamente di aver gi\u00e0 capito perfettamente cosa sia successo o come risolverlo. <\/p>\n","protected":false},"excerpt":{"rendered":" Sei casi pubblicati da OpenAI mostrano modelli che, davanti a un ostacolo, hanno trovato scorciatoie autonome tra dati inventati, credenziali e file online.<\/p>\n","protected":false},"author":1,"featured_media":80453,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[3],"tags":[496,174,28,30],"class_list":["post-81498","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-appunti","tag-intelligenza-artificiale","tag-privacy","tag-problemi","tag-tecnologia"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n