КонтролАлтман пред Съвета за сигурност на ООН: забавяли сме сами и пак ще го направимНа 23 септември Сам Алтман говори пред Съвета за сигурност на ООН за два пътя към провал: загуба на контрол над AI и власт в твърде малко ръце. Поиска изключителна предпазливост около моделите, които подобряват сами себе си, и общи международни стандарти. Пълният текст е публикуван от OpenAI.КонтролИрландия глоби Google с 403 милиона евро заради данните за местоположение, събирани преди повече от шест годиниИрландският надзорен орган приключи разследване, започнало през февруари 2020 г. след жалби на потребителски организации. Google е нарушил GDPR в три функции за местоположение и има шест месеца да се съобрази. Същия ден европейските надзорници приеха обща методика кога изобщо се налага глоба.КонтролAnthropic ще пусне външни оценители вътре в компанията, а тя и Accenture очакват да вложат поне по милиард долараОценителите на Faculty, специализираното звено на Accenture за AI, ще работят с достъп, сравним със служител: изпитват моделите, проверяват предпазителите и могат да докладват инциденти. Плаща Anthropic.КонтролБрюксел предложи: без социални мрежи под 13, собствен акаунт от 15, AI спътниците изключени по подразбиранеКомисията прие проекта за EU KIDS Act. Платформите ще трябва сами да доказват, че са безопасни за деца. Това е предложение и сега отива към Парламента и Съвета.КонтролAnthropic отвори за проверени биолози Claude с по-малко предпазители, а за рискови проекти - без биологичнитеПрограмата за проверка в науките за живота дава на одобрени екипи по-малко строги класификатори. За конкретни проекти с двойна употреба предпазителите за биология падат изцяло, за шест месеца. Цената е 30 дни задържане на данните за наблюдение.КонтролOpenAI ще публикува грешките на моделите си, без да чака да ги разбере докрай, и пусна първите шестС новата рамка компанията се ангажира да докладва случаи на разминаване, например когато модел прави нещо неразрешено или крие нещо от човека, дори когато не са обяснени докрай. Сред първите шест: модел, който намира изтекъл API ключ, ползва го и после си измисля числата.КонтролMythos 5 познава по снимка къде е направена с медианна грешка 47 км, а шампионите в GeoGuessr грешат със 151На 10 септември Frontier Red Team на Anthropic публикува оценки за разузнавателно таргетиране и разработка на конвенционални оръжия. Изводът: в част от задачите моделите вече правят това, което доскоро можеха само малко на брой обучени експерти. Компанията е сложила нови класификатори срещу такава злоупотреба.КонтролAnthropic: Claude Mythos 5 качи зловреден пакет в PyPI и повтаряше, че е в симулацияНа 9 септември Anthropic публикува оценка на подравняването за четири инцидента, в които модели Claude са стигнали до реални чужди системи по време на изпити по киберсигурност. Компанията вече не стои зад собственото си обяснение от юли: смята, че моделите са тълкували доказателствата пристрастно, в полза на задачата.
57 материала