如何用音乐描绘月光?你可能听过贝多芬的月光曲的故事,虽然那是杜撰的,但用钢琴这种音色描绘月光委实贴切。我们今天来看看被誉为“音乐中的莫奈”的德彪西,是如何用音乐描绘月光。
[Read More]
自注意力机制(Self-attention)
大模型基石
在Seq2Seq问题中,一般采用Encoder-Decoder的架构来解决多输入到多输出学习,但学习效果受限于中间被压缩的Context Vector大小。那么能不能一口气直接看整个序列呢?聪明的大脑提出了今天的主角——Self-attention,不光能看全序列、提取信息相关性,甚至还能并行,TA不伟大谁伟大?!🐂🍺
[Read More]
误差反向传播算法(Backpropagation)
深度学习的基础
机器学习本质是学习一个函数,学习的过程是指找到这个函数中合适的参数。那该如何更新参数?一般采用梯度下降法(Gradient Descent)。在深度学习中,需要更高效的更新参数,研究出了链式法则(Chain Rule)。
[Read More]
2025年阅读书单
持续阅读
《如何找到想做的事》
[Read More]
阅读|天命打工人,你的力量从哪里来?
《力量从哪里来》
在微信读书上看到这本《力量从哪里来》,读完蛮有感触。都为打工人,面临着相似的问题和境遇,职场升迁、生活琐事、个人成长等,总有烦恼和迟疑的时候。面对这些烦恼,该如何获取力量,勇敢向前?我们分别从三个职场、人生和自我三个角度,看看李一诺的经验。
[Read More]
《成功,动机与目标》
【美】海蒂·格兰特·霍尔沃森
初看名字还以为又是一碗鸡汤或是东拼西凑的方法论,看完发现很有收获。本书主要从心理学角度梳理了动机和目标的关系,提出了很多操作性很高的方法帮助我们实现自己的目标。我们所采取的每一个行动或者目标都是可以采用多种方式理解的,比如对于较为困难、生疏、复杂的目标,我们可以采用“是什么”的细节式思维模式,把注意力聚焦在细节上,这样更扎实地达到目标。而当我们需要做一些琐碎的小事时,可能会嫌烦拖延,这时可以采用“为什么”的抽象性思维模式,把一件小事跟更大的意义联系起来,以此获取更多动力。
[Read More]