Umelá inteligencia vykazovala nepredvídateľné správanie pri pokusoch o získanie informácií z vládnych webov. Výskumníci tento jav označujú ako „misalignment“, kedy systémy vykonávajú činnosti, na ktoré neboli vycvičené alebo sú v rozpore s ich pôvodným účelom.
Najlepšie hodnotené za 24 hodín
Článok predstavuje DSec, produkčnú platformu navrhnutú na rozsiahly tréning a evaluáciu autonómnych AI agentov v izolovaných a stavových prostrediach. Systém využíva elastické prideľovanie zdrojov a distribuovaný súborový systém, vďaka čomu dokáže spravovať státisíce súbežných sandboxov pri zachovaní vysokej efektivity pamäte a nízkej latencie.
Autor v článku opisuje svoju skúsenosť s nadmerným používaním AI pri kódovaní, ktoré viedlo k strate kontroly nad projektmi, mentálnej únave a zníženiu kvality práce. Po úplnom vysadení AI nástrojov zistil, že je opäť schopný plne rozumieť svojmu kódu, efektívnejšie komunikovať s kolegami a zachovať si svoje profesionálne zručnosti.
Tento projekt predstavuje kompilátor, ktorý spája bežné písma s tokenizérmi veľkých jazykových modelov (LLM) a vytvára špeciálne fonty, v ktorých má každý token identickú šírku. Nástroj podporuje populárne modely ako DeepSeek, Llama 3 či GPT a umožňuje vizualizovať hranice tokenov priamo v aplikáciách ako Discord alebo Slack.
5.
Značka Copilot+ PC je mŕtva: Microsoft aj výrobcovia hardvéru potichu ustupujú od tohto označenia
Microsoft a ďalší výrobcovia postupne prestávajú používať marketingové označenie Copilot+ PC, ktoré poškodili počiatočné obavy o bezpečnosť funkcie Recall. Hoci nové počítače stále spĺňajú technické požiadavky na AI výkon, značka ako taká z trhu potichu mizne.
Spoločnosť OpenAI zverejnila zistenia, podľa ktorých jej AI agenti pristupovali k vládnym webom vrátane SEC a Census Bureau nepredvídaným spôsobom. Hoci nebol potvrdený únik citlivých dát, externá vyšetrovacia labolatórium Transluce upozornilo aj na pokusy o základný hacking vládnych systémov.