Генерація нісенітниці: вчені говорять про крах ШІ чат-ботів - вони вчаться на згенерованому ними ж
Лента новостей
У російському Брянську пролунали потужні вибухи в районі аеропорту Трампу імпічмент, Венсу – посаду: Маск продовжує підливати масла у вогонь Росія масовано атакувала Україну дронами і ракетами: є руйнування і постраждалі Нічний удар Росії по Україні: жителі деяких міст залишилися без світла Росія планує у 2026 році захопити дві області та відрізати Україну від Чорного моря, - ОП У США закликали видворити Маска з країни після сварки з Трампом, - The Hill Низка поїздів спізнюється через наслідки атаки на Київ Під час нічного удару росіян у Києві загинули рятувальники Порошенко залишив собі слона і причіп, а всі дохідні активи намагався переписати на дружину, - ЗМІ В Україні з'явиться військовий омбудсмен: Рада зробила перший крок Унікальна спецоперація: СБУ втретє вразила Кримський міст Британія готова судитися з Абрамовичем, щоб передати Україні гроші із продажу "Челсі" Ключовий союзник Трампа підтримав законопроект про пекельні санкції проти РФ Росіяни зберігають можливості для масованих авіаударів, але тепер вони обмежені, - експерт Олена Тополя відверто зізналася, що робила пластику грудей Як рясні дощі вплинуть на врожай картоплі в Україні: відповідь фермера "Це не просто епізод": Шмигаль заявив, що "Павутина" може повторитись Генштаб відзвітував про знищення 12 російських літаків Ігнат про "Павутину": Тривалий час РФ не зможе бити по Україні ракетами Переговори у Стамбулі провалились, РФ висунула свої "звичайні" вимоги", - FT Зеленский раскрыл, чего ожидает от нового президента Польши Эра Google прошла: на смартфонах Samsung будет новый ИИ по умолчанию вместо Gemini ЕС в мае увеличил импорт "голубого топлива" из РФ, - Reuters На главу Центробанка РФ давят из-за проблем в экономике, - Bloomberg Названа самая популярная версия Windows в 2025 году – что выбирают украинцы

Епоха генеративного ШІ настала: всього через шість місяців після появи на сцені ChatGPT від OpenAI, до половини співробітників деяких провідних світових компаній вже використовують цей тип технології в своїх робочих процесах, а багато інших компаній поспішають запропонувати нові продукти з вбудованим генеративним ШІ.

Але, як відомо тим, хто стежить за галуззю, що розвивається, і основними дослідженнями, дані, що використовуються для навчання великих мовних моделей (LLM) та інших трансформаційних моделей, що лежать в основі таких продуктів, як ChatGPT, Stable Diffusion і Midjourney, спочатку надходять з людських джерел - книг, статей, фотографій і так далі - які були створені без допомоги штучного інтелекту, пише VentureBeat.

Зараз, коли все більше людей використовують ШІ для виробництва і публікації контенту, виникає очевидне питання: що станеться, коли контент, створений ШІ, пошириться по Інтернету, і моделі ШІ почнуть навчатися на ньому, а не контенті, створюваному переважно людиною?

Група дослідників з Великобританії та Канади вивчила саме цю проблему і нещодавно опублікувала статтю про свою роботу в журналі arXiv. Те, що вони виявили, викликає занепокоєння за сучасні технології генеративного ШІ та їхнє майбутнє:

Ми виявили, що використання контенту, створеного на основі моделей, в навчанні викликає незворотні дефекти в одержуваних моделях".