02 / Research
科研
整理研究问题、实验过程、论文阅读与阶段性判断,让科研过程本身可以被回顾。
共 3 篇
科研随笔——用RLHF重新思考符号回归中的可解释性
1. 符号回归中的“复杂度”与“可解释性”:一个经常被默认、却并不稳固的等号
符号回归大家都耳熟能详了:它不仅要拟合数据,还要吐出一个人可以读、可以想、甚至可以进一步拿去推导的方程。也正因为这个承诺,复杂度(complexity)几乎成了这个领域最常见的第二目标。除了拟合误差,我们通常还会最小化树大小、节点数、运算符数量、带权运算符数量,或者干脆做一...
Read More
科研随笔——量纲与符号回归
1. 超越量纲本身的语义
量纲分析,或者 Buckingham-PI 定理被经常拿来做符号回归算法的先验物理约束。量纲提供了一种极其廉价、却又确实有效的物理正则。它把变量从纯粹的数值列中拎出来,使模型至少知道哪些量可以相加,哪些量只能相乘,哪些组合在物理上没有意义。
常见的量纲约束分为2种:
以本课题组发展的DHC-...
Read More
论文阅读——SNIP (ICLR 2024)
SNIP: Bridging Mathematical Symbolic and Numeric Realms with Unified Pre-training
Intro
这篇论文中了 ICLR 2024 的 spotlight,4 个审稿人给出了 8 8 6 8 的高评价。其实,早在 2023 年 NeurIPS 的 AI4S track上,...
Read More
