Create accountLogin

Recent searches

No recent searches

Search options

Only available when logged in.
ioc.exchange is one of the many independent Mastodon servers you can use to participate in the fediverse.
INDICATORS OF COMPROMISE (IOC) InfoSec Community within the Fediverse. Newbies, experts, gurus - Everyone is Welcome! Instance is supposed to be fast and secure.

Administered by:

Server stats:

1.4K
active users

ioc.exchange: AboutStatusProfiles directoryPrivacy policy

Mastodon: AboutGet the appKeyboard shortcutsView source codev4.3.4

ineiti

@heisec Ist das jetzt wirklich "Data poisoning"? Oder einfach "Trained on bad data"?

Ich habe mich auch gefragt bezüglich der Stärke der Modelle beim Schach spielen: wenn die Modelle viele schlechte Spiele als Basis haben, dann spielen sie schlecht Schach. Also hinterfragen die Modelle offenbar nicht, was sie als Daten haben.

Werden die "Agent KIs" das besser hinkriegen? Und es schaffen, ihre Daten zu sortieren, so dass nur die guten Daten gebraucht werden?

Nov 25, 2024, 09:55 AM·Public·Phanpy
0boosts·0favorites
Public
Brokar

@ineiti @heisec

Das Problem ist, dass die (oder keine) KI nicht bewerten kann, ob die Information richtig oder falsch ist, wichtig oder nicht, gut oder schlecht.

Und solange es den KIs keiner sagt, bleibt das auch so. Von alleine kommen die nicht drauf.

ExploreLive feeds
About