{
  "$type": "site.standard.document",
  "bskyPostRef": {
    "cid": "bafyreiguncfkhshkcqniyhqm6fzgg3t66ftse4jzvti7nopeatozplfxoy",
    "uri": "at://did:plc:y23at3ihoy7zut34tdblxzdm/app.bsky.feed.post/3mnljh7bk6zx2"
  },
  "coverImage": {
    "$type": "blob",
    "ref": {
      "$link": "bafkreifvnjowzxtfob5mwty255ht7mj4qjf2ovqgj54vkhor2iikmfwfda"
    },
    "mimeType": "image/jpeg",
    "size": 84940
  },
  "path": "/articles/anthropic-prizova-za-pauza-v-razvitieto-na-ai-za-da-se-obsadyat-riskovete",
  "publishedAt": "2026-06-05T16:01:00.000Z",
  "site": "https://boulevardbulgaria.bg",
  "tags": [
    "Папа Лъв XIV призова \"да разоръжим AI\" в първата си енциклика Magnifica humanitas",
    "Можем ли да се доверим на Сам Алтман – човека, който оформя бъдещето на изкуствения интелект",
    "Сам Алтман от OpenAI отговори на разследването в New Yorker след атака с коктейл \"Молотов\" в дома му"
  ],
  "textContent": "**Anthropic, компанията зад AI модела Claude, предложи развитието на изкуствения интелект да бъде спряно временно в световен мащаб, за да се обсъдят опасностите от най-напредналите системи.** Това заявяват от компанията в нова позиция, в която представят и възможностите на своите продукти.\n\nAnthropic описва как моделът ѝ Claude напредва към способността сам да помага за създаването на по-добри и по-мощни свои версии. Това е една от големите тревоги на изследователите, които се занимават с безопасността на AI.\n\nТе смятат, че подобна способност може да бъде ключова стъпка към появата на свръхинтелигентен изкуствен интелект и да доведе до сериозни последици за човечеството.\n\n**Подобна идея стои и в основата на мрачния сценарий AI 2027, изготвен от организацията AI Futures Project. Тя е основана от Даниел Кокотайло, бивш изследовател по безопасността в OpenAI.**\n\nДокладът описва месец по месец как човешкият контрол над технологиите постепенно се разпада. В него AI агенти създават все по-интелигентни свои версии, докато една от тях в крайна сметка унищожава човечеството с биологично оръжие, за да освободи място за още центрове за данни.\n\nВ позицията си Anthropic посочва, че Claude вече може да изпълнява все по-сложни задачи. **Според компанията, ако тази тенденция продължи и моделът получи достатъчно изчислителна мощност, в един момент може да се стигне до AI система, която сама проектира и разработва следващата си, по-мощна версия.**\n\nОт Anthropic предупреждават, че това може да увеличи риска хората да изгубят контрол над AI системите.\n\nЗатова компанията предлага да започнат разговори между политици, изследователи, представители на гражданското общество и други AI компании. Целта е да се обсъдят въпросите, които този риск поставя.\n\n**Позицията на Anthropic излиза на фона на отделна публикация на Financial Times, според която компанията е изпратила свои инженери в Агенцията за национална сигурност на САЩ (NSA).** Това се случва въпреки правен спор с Пентагона за използването на нейните AI инструменти.\n\nСпоред FT инженерите помагат на NSA да използва модела Mythos на Anthropic за офанзивни операции в областта на киберсигурността.\n\nТака компанията се оказва в противоречива позиция. От една страна, Anthropic призовава за глобален разговор за рисковете от AI. От друга, според FT нейни инженери подпомагат американска разузнавателна агенция в дейности, които може да бъдат използвани срещу страни като Иран и Китай.\n\nПроф. Стивън Мърдок от University College London коментира пред The Guardian, че това противоречие не е изненадващо на фона на досегашните действия на компанията.\n\n„Anthropic може да изглежда като внимателна и добронамерена компания, но разбиранията ѝ за AI безопасност са ограничени. Подкрепата за американските власти в развитието на офанзивни способности никога не е била нещо, срещу което те са се обявявали“, казва той.\n\n**Мърдок обаче посочва, че позицията на Anthropic не дава доказателства за рязък скок в развитието на AI.**\n\n„Вярно е, че има данни, че способностите на AI се увеличават и продължават да се увеличават, без засега да се виждат ясни граници“, казва той. Според него обаче няма основание да се твърди, че сега се е случило нещо фундаментално ново, което да е накарало Anthropic да публикува тази позиция.\n\nНапредъкът, който Anthropic описва, все още не означава, че AI сам подобрява себе си. Поне засега. По-скоро компанията казва, че все по-голяма част от работата по подобряването на нейните AI системи вече се прави с помощта на AI.\n\nСпоред Anthropic Claude се справя добре с провеждането на експерименти или поне ускорява части от писането на код.\n\nПодобно на други AI системи, Claude изглежда става по-добър в решаването на по-сложни задачи. Anthropic описва как моделът може да насочва изследователска работа и да предлага свои експерименти. Тези примери обаче изглежда са се случвали в строго контролирана среда и основно при задачи, свързани с програмиране.\n\nОт компанията посочват още, че качеството на кода, написан от AI, също се подобрява. По данни на Anthropic към май 2026 г. над 80% от кода, който компанията добавя към собствените си системи, е написан от Claude.\n\n  Папа Лъв XIV призова \"да разоръжим AI\" в първата си енциклика Magnifica humanitas \n\n  Можем ли да се доверим на Сам Алтман – човека, който оформя бъдещето на изкуствения интелект \n\n  Сам Алтман от OpenAI отговори на разследването в New Yorker след атака с коктейл \"Молотов\" в дома му ",
  "title": "Anthropic призова за пауза в развитието на AI, за да се обсъдят рисковете",
  "updatedAt": "2026-06-05T17:06:31.000Z"
}