笔记

【PAPER】雇一名语言学家！通过上下文语言描述学习濒危语言

0 条评论 默认分类 笔记 论文 上下文学习 MisakaStone
Hire a Linguist!: Learning Endangered Languages in LLMs with In-Context Linguistic DescriptionsHire a Linguist!: Learning Endangered Languages in LLMs with In-Context Linguistic Descriptions0 研究背景L...

【PAPER】基于上下文学习的古汉语句读标点研究

0 条评论 默认分类 笔记 论文 上下文学习 MisakaStone
基于上下文学习的古汉语句读标点研究Ancient Chinese Punctuation via In-Context Learning0 研究背景古代汉语文本缺乏标点符号，这为文本处理带来了挑战。1 研究问题利用LLM为这些文本加上适当的标点符号，从而帮助研究人员更高效地处理这些文本。提出了一个处理流程。2 创新点提出了基于语料相似性的 ICL 示例选择策略。分类过滤： 先通过 LLM 问...

【PAPER】特征自适应和数据可扩展的上下文学习

0 条评论 默认分类 笔记 论文 上下文学习 MisakaStone
特征自适应和数据可扩展的上下文学习Feature-Adaptive and Data-Scalable In-Context Learning0 研究背景上下文学习方法如今被广泛应用，并在下游任务中表现出优越的性能。上下文学习（In-context Learning, ICL）是一种无需调整大语言模型（LLM）参数的学习方法，通过将少量带标签的示例添加到输入上下文中，从而提升模型在特定任务中...

【PAPER】SEN12MS - 一个精选的地理参考多光谱Sentinel-1&2图像数据集，用于深度学习和数据融合

0 条评论 默认分类 笔记 论文 数据集 MisakaStone
SEN12MS–A CURATEDDATASET OF GEOREFERENCED MULTI-SPECTRAL SENTINEL-1/2 IMAGERY FOR DEEPLEARNING AND DATA FUSIONSEN12MS - 一个精选的地理参考多光谱Sentinel-1/2图像数据集，用于深度学习和数据融合0 摘要在地理信息领域中，用于训练的数据集质量对于深度学习来说至关重要。...

【多模态学习】Transformer

0 条评论 默认分类 笔记 多模态学习 MisakaStone
Attention Is All You Need1 编码&解码什么是“码”：剥离掉语言中符号等等发音等等形式的不同后，剩下来的单纯的语义关系。编解码两个步骤：语义关系数字化能正确表示token之间的距离两种方法：分词器 tokenizer：所有token表示为一维的一个数字独热编码 one-hot：所有token表示为一个维度，且模长为1，分布在一个高维球面上问题：分词器不能正确表现语义关...