Генерація нісенітниці: вчені говорять про крах ШІ чат-ботів - вони вчаться на згенерованому ними ж
Лента новостей
Ось, що ваш кіт справді думає про вас: ви будете здивовані У Лондоні сказали, чи має Україна право бити британською зброєю по території РФ "Чоловіки 30+, реалізовані": Анна Трінчер розповіла про побачення після розлучення Влада двох пострадянських країн рекомендувала громадянам відмовитися від візитів до РФ РФ замінює західні компоненти в ракетах на власні: аналітики вказали на важливий нюанс Таліби хочуть заманити більше туристів до Афганістану ISW: Путін "засвітився" із соратником Пригожина, щоб покарати Шойгу за провали в Україні Після чуток про побиття: Камалія несподівано поїхала з України Україна робить ставку на дрони великої дальності, підвищуючи вартість війни для Росії, - WSJ В Польщі пропонують створити "важку бригаду" ЄС: що це означає Анна Трінчер розповіла, як ставилася до ідей Волошина: "В мене не було права голосу" Шоколадне печиво за 30 хвилин: Джеймі Олівер поділився рецептом США звинуватили Росію в застосуванні забороненої хімзброї у війні в Україні, - Reuters Опитування показало, скільки грошей отримують українські біженці у Європі Росія впаде нижче за Туркменістан за рівнем життя вже через три роки, - МВФ Температура в Україні впаде до +12°: синоптик розказала, коли похолоднішає WhatsApp додав дві корисні функції, які спростять життя користувачам Росія посилила штурми під Авдіївкою: Генштаб розкрив ситуацію на фронті "Чоловіки 30+, реалізовані": Анна Трінчер розповіла про побачення після розлучення Детонатор спрацював від сигналу GPS: росЗМІ розкрили, як і чим підірвали Кримський міст "Євробачення-2024": Україна знову піднялася в букмекерському списку потенційних переможців Росія готує наступ на Харківську та Сумську області, - ГУР РФ замінює західні компоненти в ракетах на власні: аналітики вказали на важливий нюанс ЗСУ "мінуснули" понад 1200 окупантів: втрати РФ наближаються до критичної лінії Годжес жорстко висловився про повернення з ЄС деяких українців: хто має бути в ЗСУ

Епоха генеративного ШІ настала: всього через шість місяців після появи на сцені ChatGPT від OpenAI, до половини співробітників деяких провідних світових компаній вже використовують цей тип технології в своїх робочих процесах, а багато інших компаній поспішають запропонувати нові продукти з вбудованим генеративним ШІ.

Але, як відомо тим, хто стежить за галуззю, що розвивається, і основними дослідженнями, дані, що використовуються для навчання великих мовних моделей (LLM) та інших трансформаційних моделей, що лежать в основі таких продуктів, як ChatGPT, Stable Diffusion і Midjourney, спочатку надходять з людських джерел - книг, статей, фотографій і так далі - які були створені без допомоги штучного інтелекту, пише VentureBeat.

Зараз, коли все більше людей використовують ШІ для виробництва і публікації контенту, виникає очевидне питання: що станеться, коли контент, створений ШІ, пошириться по Інтернету, і моделі ШІ почнуть навчатися на ньому, а не контенті, створюваному переважно людиною?

Група дослідників з Великобританії та Канади вивчила саме цю проблему і нещодавно опублікувала статтю про свою роботу в журналі arXiv. Те, що вони виявили, викликає занепокоєння за сучасні технології генеративного ШІ та їхнє майбутнє:

Ми виявили, що використання контенту, створеного на основі моделей, в навчанні викликає незворотні дефекти в одержуваних моделях".