Niedawno pojawił się Claude 4, a w systemowej mapie modeli entuzjaści odkryli funkcję, która prawdopodobnie umożliwia modelowi powiadamianie odpowiednich służb, jeżeli ktoś próbuje wygenerować coś nielegalnego.
Scenariusz wygląda następująco: na przykład, jeżeli ktoś poprosi model o sfałszowanie danych z badań klinicznych, Claude powinien wysłać powiadomienie do amerykańskiej Agencji ds. Żywności i Leków (FDA).
https://x.com/8teAPi/status/1925611205496050138
Twórcy zarzekają się, iż ta funkcja nie trafiła do produkcyjnej wersji modelu, ale sam fakt jej istnienia budzi wiele pytań.
https://x.com/sleepinyourhat/status/1925626079043104830
Co o tym sądzicie? Czy to rzeczywiście konieczność — czy może pierwszy krok w stronę totalnej kontroli?
