2024年10月

【PAPER】特征自适应和数据可扩展的上下文学习

特征自适应和数据可扩展的上下文学习Feature-Adaptive and Data-Scalable In-Context Learning0 研究背景上下文学习方法如今被广泛应用,并在下游任务中表现出优越的性能。上下文学习(In-context Learning, ICL)是一种无需调整大语言模型(LLM)参数的学习方法,通过将少量带标签的示例添加到输入上下文中,从而提升模型在特定任务中...

【PAPER】SEN12MS - 一个精选的地理参考多光谱Sentinel-1&2图像数据集,用于深度学习和数据融合

SEN12MS–A CURATEDDATASET OF GEOREFERENCED MULTI-SPECTRAL SENTINEL-1/2 IMAGERY FOR DEEPLEARNING AND DATA FUSIONSEN12MS - 一个精选的地理参考多光谱Sentinel-1/2图像数据集,用于深度学习和数据融合0 摘要在地理信息领域中,用于训练的数据集质量对于深度学习来说至关重要。...

【多模态学习】Transformer

Attention Is All You Need1 编码&解码什么是“码”:剥离掉语言中符号等等发音等等形式的不同后,剩下来的单纯的语义关系。编解码两个步骤:语义关系数字化能正确表示token之间的距离两种方法:分词器 tokenizer:所有token表示为一维的一个数字独热编码 one-hot:所有token表示为一个维度,且模长为1,分布在一个高维球面上问题:分词器不能正确表现语义关...