Tag: AI

103 wpisów
Sekurak

Jak przemycić złośliwy prompt w telemetrii i przejąć kontrolę nad agentem AI – szczegóły techniki GhostJacking

Podczas tegorocznej edycji konferencji DEF CON 34 badacze z firmy Tenet Security zaprezentowali, jak łatwo można zmusić agentów AI do wykonania konkretnej czynności. Atak nazwany GhostJacking (będący rozwinięciem znanej techniki AgentJacking) polega na zatruwaniu treści w zaufanych środowiskach (logi, alerty bezpiecze…

czytaj więcej ...
Sekurak

Samopropagujący się atak na Microsoft Word – prompt injection w Copilot

Badacz Håkon Måløy odkrył podatność w Microsoft Copilot dla Worda – polegała ona na przemycaniu ukrytych instrukcji w dokumentach wykorzystywanych jako źródła dla Copilota. Instrukcje te mogły powodować modyfikowanie innych tworzonych lub edytowanych dokumentów, a w efekcie umieszczanie także w ich treści złośliwych i…

czytaj więcej ...
Niebezpiecznik

Jak odpowiedzi AI będą znakowane w sposób niewidzialny dla ludzi?

Niebawem wszystkie znane narzędzia AI zaczną dodawać w niewidoczne dla ludzi znaki do generowanych przez siebie odpowiedzi (zarówno tekstu, obrazów jak i kodu). Te tzw. znaki wodne (ang. “watermark”) to nie będą niewidzialne znaki Unicode, czy “mdashe” porozstawiane w odpowiednich miejscach ;) Anthropic, twórca Claude…

czytaj więcej ...
Niebezpiecznik

Agent AI miał zapisać go na siłownię. I zapisał, kasując rezerwacje innych osób.

Ciekawa historia zdarzyła się po drugiej stronie globu. Pewien Australijczyk o imieniu Andrew poprosił uruchomionego lokalnie agenta OpenClaw, korzystającego z modelu Claude, o zapisanie go na zajęcia fitness w pobliskiej siłowni. Niestety, pierwszy możliwy termin był odległy, więc AI “kreatywnie znalazło sposób” — wy…

czytaj więcej ...
Telepolis

Intel chce wywrócić rynek pamięci. Powód jest oczywisty

Szaleństwo na sztuczną inteligencję to miliardowe zyski. Korzysta z tego na razie garstka firm, ale chętnych na zarobek podmiotów jest dużo.Intel przez lata trzymał się z dala od rynku pamięci - ostatnimi próbami było 3D XPoint i Optane, ale sytuacja ta może się niedługo zmienić. Dyrektor generalny firmy, przyznał, że…

czytaj więcej ...
Telepolis

Claude zostawi ślad w każdym tekście. Anthropic wdraża znak wodny

Nie mamy dobrych wieści dla osób, które korzystają z popularnego amerykańskiego czatbota. Niedługo wszyscy będą o tym wiedzieli.Teksty generowane przez Claude nie będą już całkowicie anonimowe. Anthropic zapowiedziało wdrożenie znaków wodnych, które pozwolą innym systemom rozpoznać treści stworzone przez sztuczną inte…

czytaj więcej ...
Telepolis

NVIDIA odpala finansową bombę. W grze ponad 500 miliardów dolarów

Wygląda na to, że zbyt szybko nie zobaczymy powrotu starych cen elektroniki użytkowej. Zieloni napędzają szaleństwo na AI jeszcze bardziej.NVIDIA nie zamierza zwalniać tempa w wyścigu o sztuczną inteligencję. Firma Jensena Huanga porozumiał się z sześcioma gigantami świata finansów, którzy mają pomóc w pozyskaniu pona…

czytaj więcej ...