day day up
开始阅读
  我的梦想
不是每个人都应该像我这样去建造一座水晶大教堂，但是每个人都应该拥有自己的梦想，设计自己的梦想，追求自己的梦想，实现自己的梦想。梦想是生命的灵魂，是心灵的灯塔，是引导人走向成功的信仰。有了崇高的梦想，只要矢志不渝地追求，梦想就会成为现实，奋斗就会变成壮举，生命就会创造奇迹。——罗伯·舒乐
理解模型维度 理解模型维度
前言最近做实验时发现对模型架构理解不够深入，理论联系不了实际。在微调时候总会出现由于参数不同导致的错误。所以写下此篇文章，期望能够进一步了解模型每一层的作用。 RoBERTaModel以RoBERTaModel为例，先将加载模型打印出来
2024-12-15 ML
Large Language Model for Vulnerability Detection Emerging Results and Future Directions Large Language Model for Vulnerability Detection Emerging Results and Future Directions
Large Language Model for Vulnerability Detection: Emerging Results and Future DirectionsPart 1. Title & SourceTitl
2024-12-15 paper reading
认识你自己 认识你自己
心智模式心智模式包含了你对自己及周围世界的一些看法、观念、定义；然后，在这些看法、观念、定义的基础上，会形成你自己的一些观察的套路、思维的套路、反馈的套路。 比如：《红楼梦》想必大伙儿都听说过吧，此书的奇特之处在于：经学家看见《易》，道
2024-12-13 阅读
《无从选择——为何多即是少》 《无从选择——为何多即是少》
无从选择——为何多即是少选择的主客观性不是线性关系选择是具有主观性的，客观状态和主观状态并不是线性相关。比如，直接给你100块钱和扔硬币，如果正面的话得200，否则不得。赚100的主观满足感可能是10，而赚200的主观满足可能只有7。因
2024-12-08 阅读
Classification Head学习笔记 Classification Head学习笔记
Classification Head学习笔记前言在自然语言处理（NLP）和计算机视觉（CV）等任务中，classification head 是指在深度学习模型的基础网络上添加的一层网络，用来执行特定的分类任务。其核心作用是将模型的输
2024-12-02 ML
Pytorch-Sampler类学习笔记 Pytorch-Sampler类学习笔记
Pytorch-Sampler类学习笔记前言我们在训练神经网络时，如果数据量太大，无法一次性将数据放入到网络中进行训练，所以需要进行分批处理数据读取。这一个问题涉及到如何从数据集中进行读取数据的问题，pytorch框提供了Sampler
2024-12-02 ML
peft学习笔记 peft学习笔记
peft学习笔记第一次使用lora微调，踩的坑已经多到心力憔悴。所以写一篇博客，总结梳理一下我混乱的逻辑。 什么是loraLoRA 的全称是 LoRA: Low-Rank Adaptation of Large Language Mod
2024-12-02 ML
Pytorch-Sampler类学习笔记 Pytorch-Sampler类学习笔记
Pytorch-Sampler类学习笔记前言我们在训练神经网络时，如果数据量太大，无法一次性将数据放入到网络中进行训练，所以需要进行分批处理数据读取。这一个问题涉及到如何从数据集中进行读取数据的问题，pytorch框提供了Sampler
2024-11-28 ML
An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models Injecting Disguised Vulnerabilities against Strong Detection An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models Injecting Disguised Vulnerabilities against Strong Detection
An LLM-Assisted Easy-to-Trigger Backdoor Attack on Code Completion Models: Injecting Disguised Vulnerabilities against
2024-11-17 paper reading
Challenging Machine Learning-based Clone Detectors via Semantic-preserving Code Transformations Challenging Machine Learning-based Clone Detectors via Semantic-preserving Code Transformations
Challenging Machine Learning-based Clone Detectors via Semantic-preserving Code TransformationsPart1. Title & Sour
2024-11-10 paper reading
1 / 4