machine-learning - 绝对最佳的理论无损数据压缩可能是什么？

Question

首先:

假设该算法占用有限空间。假设计算资源是无限的。

这种压缩的结果会采取什么形式？我的直觉告诉我，这将是某种形式的类似 pRNG 的算法，具有产生压缩数据的不可约种子。还有比这更有效的方法吗？

现在如果我们假设所有资源都是有限的怎么办？完美压缩问题是否等同于完美模式识别问题？这种压缩的结果会采取什么形式？因式分解为素数？还有别的事吗？有了这样的算法是不是就意味着AI的问题已经被破解了呢？

顺便问一下，使用机器学习进行数据压缩是否有成功的尝试？

Answer 1

有一个数学证明表明你的问题无法得到一般性的回答。可能的最佳压缩是无法计算的。请参阅Kolmogorov complexity .

只有当数据可以通过某种方式建模以暴露冗余时，压缩才起作用。