22.09. - 30.09. AI a „predstieraná empatia“. Psychologička a sociologička Sherry Turkle upozorňuje na riziká využívania chatbotov ako náhrady ľudských vzťahov, priateľstva či psychologickej podpory. Vo svojej novej knihe a rozhovore pre The Boston Globe upozorňuje na tzv. „predstieranú empatiu“ – situáciu, keď AI pôsobí, akoby človeku rozumela a záležalo jej na ňom, hoci nejde o skutočný vzťah. [1]

22.09. - 30.09. Kto skutočne kontroluje umelú inteligenciu? Rozvoj umelej inteligencie nezávisí iba od samotných modelov ako ChatGPT, ale od rozsiahleho systému čipov, dát, dátových centier, energie a špecializovaných technológií. ABC News upozorňuje na globálne závislosti, ktoré vznikajú okolo AI, a zároveň na rastúcu spotrebu elektriny, vody a ďalších zdrojov potrebných na jej fungovanie. [1]

22.09. - 30.09. Bývalý šéf bezpečnosti Googlu upozorňuje na riziká AI pre deti. Tom Siegel, bývalý šéf tímu pre bezpečnosť používateľov v Google a nový riaditeľ Youth AI Safety Institute, upozorňuje na možné riziká používania AI deťmi a mladistvými. Spomína obavy súvisiace s duševným zdravím, sebapoškodzovaním, psychózou či oslabovaním kritického myslenia pri nadmernom spoliehaní sa na AI. Navrhuje tiež nezávislé štandardy na hodnotenie bezpečnosti AI nástrojov pre deti, podobne ako crash testy pri automobiloch. [1]

22.09. - 30.09. Keňa: AI chatbot pomáha tehotným ženám a upozorňuje na rizikové zdravotné stavy. V Keni využíva sieť zdravotníckych zariadení Jacaranda Health systém PROMPTS, ktorý prostredníctvom SMS odpovedá ženám na otázky súvisiace s tehotenstvom a starostlivosťou o novorodenca. Systém využívajú pacientky verejných kliník v 24 okresoch a je dostupný aj ženám bez smartfónu či stabilného prístupu na internet. Umelá inteligencia pomáha otázky porozumieť, triediť a identifikovať prípady, pri ktorých môže byť potrebná bezodkladná zdravotná starostlivosť. Približne 7 % správ systém označí ako potenciálne urgentné a tie sú následne odovzdané zdravotnej sestre, ktorá môže pacientku kontaktovať a odporučiť jej ďalší postup. Podľa reportáže systém pomohol [...]

22.09. - 30.09. USA: AI chatbot ponúka novú ochranu ľudí v riziku samovraždy. Spoločnosť OpenAI zaviedla pre používateľov ChatGPT funkciu Trusted Contact, ktorá umožňuje vopred určiť blízku osobu, ktorú môže systém upozorniť v prípade, že vyhodnotí vážne známky rizika samovraždy alebo sebapoškodenia. NPR preverovala, ako ľahko sa dá táto funkcia nájsť a aktivovať. Pri vytvorení nového účtu sa používateľovi automaticky nezobrazila a chatbot na otázku o jej existencii najskôr neuviedol správnu informáciu. Funkciu je potrebné nastaviť v používateľských nastaveniach. [1]

15.09. - 21.09. Austrália: Vláda zvažuje pravidlá pre AI a zákaz inteligentných okuliarov na úradoch. Austrálska vláda pripravuje nové pravidlá pre používanie umelej inteligencie a súvisiacich technológií. Zvažuje tiež zákaz inteligentných okuliarov schopných skrytého nahrávania v budovách federálnej vlády, a to pre obavy o súkromie a bezpečnosť. Vláda zároveň pripravuje štandardy pre veľké dátové centrá a vývoj pokročilých AI modelov. Pravidlá majú riešiť napríklad bezpečnosť, transparentnosť, spotrebu energie a vody či ochranu pracovníkov pri zavádzaní AI do pracovného prostredia. [1]

15.09. - 21.09. Umelá inteligencia sa dostáva aj do vývoja zbraní. Umelá inteligencia sa čoraz viac využíva nielen v civilných oblastiach, ale aj pri vývoji vojenských technológií. The New York Times upozorňuje na prípad jemenských Hútiov, ktorí podľa dostupných informácií využívajú AI a ďalšie technológie pri vývoji vlastných zbraňových systémov. Spoločnosť Anthropic vo svojej správe o zneužívaní AI uviedla, že skupina aktérov zo severného Jemenu využila model Claude pri dlhodobej snahe o vývoj navádzaných zbraní. Podľa spoločnosti sa tento proces dostal až k testovaciemu odpalu navádzanej rakety. Hútiovia zároveň naďalej využívajú niektoré sofistikované komponenty dodávané z Iránu. [1]

15.09. - 21.09. Pápež Lev XIV. o umelej inteligencii: Technológia má slúžiť človeku a mieru. Pápež Lev XIV. vo svojom posolstve účastníkom medzinárodného podujatia AI4Peace upozornil na potrebu smerovať rozvoj umelej inteligencie tak, aby slúžil ľudskej dôstojnosti, podporoval dialóg, solidaritu a mier. Podľa pápeža nestačí sledovať, čo umelá inteligencia dokáže, ale treba sa pýtať aj na to, na aký cieľ ju chceme nasmerovať. Etické otázky by preto mali byť súčasťou vývoja technológií už od ich návrhu a ľudská zodpovednosť by nemala byť skrytá za zložitosťou technologických systémov. [1]

15.09. - 21.09. USA: Problémy s využívaním AI pri schvaľovaní zdravotnej starostlivosti Medicare. Nové dokumenty odhaľujú problémy pri zavádzaní pilotného programu WISeR v rámci Medicare, ktorý využíva umelú inteligenciu pri rozhodovaní o schválení alebo zamietnutí niektorých zdravotných výkonov a pomôcok. Program podľa zverejnených materiálov odštartoval narýchlo a sprevádzali ho chyby a oneskorenia v poskytovaní zdravotnej starostlivosti. Pilotný projekt prebieha v šiestich štátoch USA a má trvať do roku 2031. [1]

08.09. - 14.09. Austrália: Šéf Anthropic vyzýva na spomalenie vývoja umelej inteligencie. Generálny riaditeľ spoločnosti Anthropic Dario Amodei vyzval technologické firmy, aby spomalili tempo vývoja čoraz výkonnejších systémov umelej inteligencie. Upozornil na rastúce riziká spojené s autonómnymi AI agentmi, ktoré dokážu samostatne vykonávať komplexné úlohy a v niektorých prípadoch konať aj mimo pôvodného zadania. Podľa Amodeiho by mohli výrazne výkonnejšie systémy už v priebehu niekoľkých mesiacov predstavovať vážne bezpečnostné riziko. Amodei zároveň navrhol väčšie zapojenie nezávislých hodnotiteľov, ktorí by preverovali dodržiavanie bezpečnostných pravidiel, a vyzval technologické firmy na vytvorenie spoločných bezpečnostných štandardov. S jeho výzvou verejne súhlasili aj šéf OpenAI Sam Altman a Elon Musk. [...]