_春天_-CSDN博客

原创 sublime 3 背景和字体颜色修改

sublime文本颜色：黄色变绿色

2024-07-04 16:58:02 1530

语言模型（language model）是用来预测句子中的next word的概率分布（probability distribution），并计算一个句子的概率。一个好的语言模型，应该给well-written 的句子更高的生成概率，阅读这些句子不应该让人感到困惑。比较这句话的概率与当前语言模型生成的其他句子的概率，来判定生成句子的好坏呢？答案是否定的，因为句子的最终概率是单词概率连乘得到的，所以随着句子长度的增加，概率会越来越小。因为是概率的倒数，所以困惑度越低，句子概率越高，语言模型就越好。

2023-12-13 21:45:21 4964 1

原创矩阵乘法、点乘、点积、内积、叉积、外积

相乘，A，B为维度大小相同的矩阵，即A的行数=B的行数，A的列数=B的列数。相乘，A，B均为矩阵，A的维度为m*p，B的维度为p*n，则A*B的结果为m*n的矩阵。-------- (\times) – 叉积或笛卡尔积。-------- (\otimes) – 张量积。-------- (\bullet) – 点积。-------- (\cdot) – 点积。-------- (\circ) – 函数组合。相乘，A，B均为向量，相乘以后，得到一个标量。-------- (*) 卷积。

2023-11-25 17:27:09 13903

原创【汇编语言-王爽】第八章：数据处理的两个基本问题

【代码】【汇编语言-王爽】第八章：数据处理的两个基本问题。

2023-10-22 22:41:32 468

原创【汇编语言-王爽】第七章：更灵活的定位内存地址的方法

【代码】【汇编语言-王爽】第七章：更灵活的定位内存地址的方法。

2023-10-22 13:25:33 197

原创【汇编语言-王爽】第六章：包含多个段的程序

知识点+代码。实验：（6）用push指令将a段中的前8个字型数据，逆序存储到b段中。(5) 将a段和b段中的数据依次相加，将结果存到c段。

2023-10-22 13:04:06 385

原创【汇编语言-王爽】第五章：[BX]和loop指令

【代码】【汇编语言-王爽】第五章：[BX]和loop指令

2023-10-22 12:42:20 156

原创【汇编语言-王爽】第四章：第一个程序

知识点assume：这条伪指令的含义为“假设”。它假设某一段寄存器和程序中的某一个用segment … ends定义的段相关联。比如 cs:codesegment：segment和ends成对使用，其功能是定义一个段。ends：汇编语言的结束标记。标号程序返回。int 21 需要用P命令执行。Debug将程序从可执行文件加载入内存后，cx中存放的是程序的长度。程序段前缀（PSP）

2023-10-21 23:30:24 94

原创【汇编语言-王爽】第三章：寄存器（内存访问）

知识点CPU中，用16位寄存器来存储一个字。字的低位字节存放在低地址单元中，高位字节存放在高地址单元中。DS寄存器，通常用来存放要访问数据的段地址。栈是一种具有特殊访问方式的存储空间：后进先出。push 和 pop。入栈和出栈都是以字为单位进行的。push 入栈指令：先将记录栈顶偏移地址的SP寄存器中的内容减2，使得SS:SP指向新的栈顶单元，然后再将寄存器中的数据送入SS:SP指向的新的栈顶单元。栈顶的段地址存放在SS中，偏移地址存放在SP中。任意时刻，SS:SP指向栈顶元素。栈顶超界数

2023-10-21 23:21:56 163

原创【汇编语言-王爽】第二章：寄存器

【代码】【汇编语言-王爽】第二章：寄存器

2023-10-21 23:03:00 377

原创【汇编语言-王爽】第一章：基础知识

操作：寄存器BX的内容送到AX中机器指令：1000100111011000汇编指令：mov ax, bx。

2023-10-20 23:39:45 207

原创【论文阅读-人机交互】通过用户参与来缓解人工智能决策中的知识失衡问题

本文介绍一篇近期发表在International Journal of Human - Computer Studies上的利用用户协作参与来缓解人工智能(AI)决策中的知识失衡问题。在决策任务中，AI系统试图通过增强或补充用户的能力来提供帮助，并最终提高任务性能。但是对用户来说，当接收到“黑盒模型”的建议时，用户仍面临着接受或者推翻AI建议的决定。当用户和AI系统之间存在严重的知识失衡时，即当人们缺乏必要的任务知识，因此无法准确地独自完成任务时，做出这些决定就更具挑战性。

2023-06-19 17:27:58 983 1

原创【论文阅读-图神经网络】图分类研究综述

图分类研究综述。图分类问题：给定一组图, 图分类的目标是学习图和对应类别标签的映射关系, 并预测未知图的类别标签。

2023-02-28 17:35:19 1350 1

原创【论文阅读-Transformer】Attention is all you need

Title: Attention is all you needFrom: NeurIPS 2017Link: https://arxiv.org/abs/1706.03762Code: https://github.com/tensorflow/tensor2tensor.循环神经网络被普遍作为序列建模和转录问题的最佳模型。但是，循环模型（Recurrent models）存在两个问题：（1）其输入输出的顺序计算性阻碍了训练的并行化，序列长度越长，问题越明显。（2）而且随着序列的变长，存在长程依.

2022-04-09 20:55:43 385

原创【论文阅读-对比学习】Constructing Contrastive Samples via Summarization for Text Classification

今天看一篇ACL findings上关于对比学习的论文。故事点是小样本+文本的数据增强方式。过两天总结一下NLP领域数据增强的方式吧。Title: Constructing Contrastive Samples via Summarization for Text Classification with Limited AnnotationsFrom: ACL Findings 2021Link: https://aclanthology.org/2021.findings-emnlp.118/

2022-03-31 18:08:06 800

原创【论文阅读-可解释性】On Sample Based Explanation Methods for NLP Efficiency, Faithfulness, and Semantic

Title：On Sample Based Explanation Methods for NLP: Efficiency, Faithfulness, and Semantic EvaluationFrom: ACL 2021Link: https://aclanthology.org/2021.acl-long.419/模型的可解释性是不可或缺的。在针对NLP任务的可解释研究中，常用方法包括输入擦除、显著性图或者注意力矩阵。input erasure (Li et al., 2016),

2022-03-30 18:43:10 787

原创【书籍阅读】-人在回路机器学习 Human-in-the-Loop Machine Learning（一）

Human-in-the-loop最近在看这本书，记一些笔记帮助梳理。基本上是重点部分翻译+梳理+自己的理解。（最开始在知乎上看到有人写这本书的笔记，但是好像后面断更了，所以就自己写啦，希望可以坚持看完hh）文章目录PART 1: First StepsChapter 1. Introduction to Human-in-the-Loop Machine Learning1.1 The basic principles of Human-in-the-Loop Machine Learning

2022-03-25 21:11:06 6453 4

原创【论文阅读-句向量】Whitening Sentence Representations for Better Semantics and Faster Retrieval

这是苏神的论文，从BERT-flow到BERT-whitening，越来越接近文本的本质，处理方法也越来越简单了。其实昨天已经看完这个论文了，但是在看苏神的博客时发现这篇论文竟然还有一点小插曲：一篇使用了同样白化方法来优化预训练表征的论文发表在了EMNLP上，然后苏神把这件事的来龙去脉，双方交流过程写在了他的科学空间里，然后我当然就很感兴趣啦，所以就没来的及写阅读笔记。今天把两篇论文都看了，一起补在这里。Title: Whitening Sentence Representations for Bett

2022-03-25 10:59:07 906

原创【论文阅读-对比学习】ConSERT- A Contrastive Framework for Self-Supervised Sentence Representation Transfer

今天继续来看对比学习的一篇论文，比SimCSE稍晚几个月发的，主要关注在embeddings层的不同的数据增强方式。该阅读笔记首发于：https://zhuanlan.zhihu.com/p/481581904Title: ConSERT: A Contrastive Framework for Self-Supervised Sentence Representation TransferFrom: ACL 2021Link: https://aclanthology.org/2021.acl-l

2022-03-18 13:43:36 4348

原创【论文阅读-句向量】On the sentence embeddings from Pre-trained Language Models

上一篇看了BERT的句嵌入表示在语义文本相似性上表现不行，今天来学习下它为啥不行——各向异性。Title: On the Sentence Embeddings from Pre-trained Language ModelsFrom: EMNLP 2020Link: https://aclanthology.org/2020.emnlp-main.733.pdfGithub: https://github.com/bohanli/BERT-flow该阅读笔记首发于：https://zhuanl

2022-03-15 22:18:49 1179

原创【论文阅读-句向量】Evaluation of BERT and ALBERT Sentence Embedding Performance on Downstream NLP Tasks

昨天说到sentence embedding，今天就补了一篇BERT里面[CLS]的论文。BERT 以及ALBERT（A Lite BERT）类的预训练模型可以通过[CLS]来生成句向量，但是其效果真的好吗？这篇笔记首发于：https://zhuanlan.zhihu.com/p/477863892Title: Evaluation of BERT and ALBERT Sentence Embedding Performance on Downstream NLP TasksFrom: ICPR 2

2022-03-10 17:08:34 1568

原创【论文阅读-对比学习】SimCSE Simple Contrastive Learning of Sentence Embeddings

今天分享下Danqi大佬的SimCSE。文章首发于https://zhuanlan.zhihu.com/p/477334784Title: SimCSE: Simple Contrastive Learning of Sentence EmbeddingsFrom: EMNLP 2021Link: https://arxiv.org/abs/2104.08821论文提出了基于对比学习框架的SimCSE，来是提升句向量的嵌入表示。在有监督和无监督的语义相似度任务上取得了SOTA效果。背景知识先介

2022-03-10 10:01:27 1500

原创【论文阅读-人机交互】A Better Way to Onboard AI Understand it as a tool to assist rather than replace people

Titile: A Better Way to Onboard AI: Understand it as a tool to assist rather than replace peopleFrom: Harvard Business Review 2020Link: https://hbr.org/2020/07/a-better-way-to-onboard-ai#论文首发于：https://zhuanlan.zhihu.com/p/476007656根据调查，人们认为AI是一种有价值的生产力

2022-03-08 16:27:36 608

原创【论文阅读-人机交互】Human in the Loop for Machine Creativity

Title: Human in the Loop for Machine CreativityFrom: The Ninth AAAI Conference on Human Computation and Crowdsourcing （HCOMP 2021）Link: https://www.humancomputation.com/assets/blue_sky/HCOMP_2021_paper_101.pdf该文章首发于：https://zhuanlan.zhihu.com/p/47550582

2022-03-07 21:56:15 1126

原创【论文阅读-人机交互】Model LineUpper Supporting Interactive Model Comparison at Multiple Levels for AutoML

Model LineUpper: Supporting Interactive Model Comparison at Multiple Levels for AutoMLIn 26th International Conference on Intelligent User Interfaces（IUI） 2021Link：https://arxiv.org/pdf/2104.04375.pdf该文章首发于：https://zhuanlan.zhihu.com/p/474937764这是一篇关

2022-03-06 23:50:42 2578

原创【论文阅读-人机交互】A case for humans-in-the-loop:Decisions in the Presence of Erroneous Algorithmic Scores

Title: A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous Algorithmic ScoresFrom: CHI 2020Link： https://dl.acm.org/doi/abs/10.1145/3313831.3376638使用算法来进行预测的情况越来越常见，要了解这些技术的机遇和风险，关键在于研究人类专家在使用这些工具时，是如何改变他们的决策的。文章以一项算法工具辅助儿童虐待热线筛查决策为研

2022-03-04 09:34:08 394

空空如也

空空如也