看吧～在经历了今年4月末KAN发布之初带给业界的惊艳，再到学术与产业间的各种争鸣甚至最后演变成了某种学术诚信上的“诋毁”，“KAN”团队仍保持初心，终迎来了KAN 2.0。
记得当初自己在某号/某乎/某薯上也发表或记录或解答了关于KAN的一些观点、想法和问题，并与一作小帅哥也产生了些许互动和碰撞，但着实也遇到一些不是很纯粹的“comment”..呃.我呢也都该怼怼过..但有的怼有收获，有的怼就是一种无意义的消耗和浪费了～喜欢看热闹的伙伴也可以访问之前历史笔记或文章，也许会有意外发现哈哈～
在粗读了这篇KAN 2.0之后，整体感觉相比1.0在所谓的符号化层面的“精雕”上更近了一步，在将符号化与神经网络的链接上也更多元和巧妙～
包括在“AI4S”上以「好奇心驱动的科学」的洞察视角上尝试将符号化本身进一步的拆解、表征甚至是“符号化”(读起来有点绕..)，然后再与KAN网络优雅的集成起来。如文中作者探讨了三种将领域知识整合到KAN中的归纳偏置，从最粗略（最简单/相关性）到最精细（最困难/因果关系）：重要特征、模块化结构和符号公式。
同时，本篇论文KAN 2.0在原始KAN 1.0网络的基础上，引入了一种称为MultKAN的新模型，其核心改进是引入额外的乘法层进行增强，侧面的将Kolmogorov-Arnold表示定理提出的“任何连续高维函数都可以分解为单变量连续函数和加法的有限组合“扩展到了在科学和日常生活中的普遍存在的“乘法”上，更清楚地揭示了数据中的乘法结构，以期增强可解释性和表达能力。（当然这背后一定包含了更进一步的理论证明）
除此之外，文中除了进行原理层面的说明，论文还讲解了多个AI4S具体案例，如何将KAN融入到现实的科学研究中，比如发现新的物理概念和定律。包括：守恒量、拉格朗日量、隐藏对称性和本构方程等…
鉴于这篇文章包含的信息量和数学理论背景较复杂，且仅通过一篇笔记和记录就草草了事也是不能够的，后续将分几篇来分别给大家带来分析和观点分享，望大家持续关注～
最后再说一下回归第一性原理的自总结：KAN采用了一种巧妙而优雅的方法将抽象的符号化表征思想带入到神经网络中，从而实现了符号主义与连接主义的某种平衡～
不同于以往MLP的简单粗暴，甚至与火极一时并在AIGC大行其道的《The bitter lesson》或「scaling law」在思想上大相径庭。
版权归原作者 吕小明么 所有， 如有侵权，请联系我们删除。