Генеративные алгоритмы - это алгоритмы, которые не просто анализируют готовые данные, а создают новые объекты по заданным правилам: изображения, тексты, музыку, игровые уровни, трёхмерные модели, программный код и так далее.
При этом термин довольно широкий. Под ним могут понимать как современные нейросети вроде ChatGPT, так и обычный алгоритм, который случайно генерирует карту подземелья.