简化消化系统癌症(SimpleDC)

SimpleDC是一个消化系统癌症教育文本简化平行语料库,包含原始与简化版本,旨在提升健康素养。

乔治梅森大学乔治梅森大学
arXiv
2024-03-30 更新
浏览 29
文本cs.AIcs.CLcs.LG
Simplified Digestive Cancer (SimpleDC)

基本信息

模态
文本
创建/更新时间
2024-03-30

资源简介

简化消化系统癌症(SimpleDC)

【一句话概览】

健康科普材料的阅读难度会影响信息可理解性与可及性,许多患者教育资源超出通用标准,癌症教育领域尤其需要高性能文本简化模型。为此,研究者构建了面向健康文本简化研究的平行语料库SimpleDC,内容来自美国癌症协会、疾病控制与预防中心和国家癌症研究所。基于该语料库与现有Med-EASi语料库,研究探索了基于大语言模型的简化方法,涵盖微调、强化学习、基于人类反馈的强化学习、领域适应和提示方法,涉及Llama 2与GPT-4,并提出一种新的RLHF奖励函数。结果显示,微调后的Llama 2模型在多项指标上表现优异,新奖励函数效果超过现有强化学习文本简化奖励函数,表明强化学习与RLHF可增强微调,支持在无标注文本上训练并提升性能(来源 arXi。

【数据集背景】

本数据集源站标题为《arXiv Query: search_query=&id_list=2401.15043v2&start=0&max_results=1》。源站首次发布:2024-01-26。

【数据内容】

源站原始描述:Objective: The reading level of health educational materials significantly influences the understandability and accessibility of the information, particularly for minoritized populations. Many patient educational resources surpass the reading level and complexity of widely accepted standards. There is a critical need for high-performing text simplification models in health information to enhance dissemination and literacy. This need is particularly acute in cancer education, where effective prev…

中文译文(机器翻译,仅供快速理解,请以原文为准):目的:健康宣教材料的阅读难度显著影响信息的可理解性和可获取性,对少数群体而言尤为如此。许多患者宣教资源超出了广泛接受标准的阅读难度和复杂度。在健康信息领域,迫切需要高性能的文本简化模型,以促进信息传播和提升健康素养。这一需求在癌症教育中尤为迫切,因为有效的预防和筛查教育能够大幅降低发病率和死亡率。方法:我们推出了简化消化系统癌症(SimpleDC)语料库,这是一个专为健康文本简化研究定制的癌症教育材料平行语料库,汇集了来自美国癌症协会、疾病控制与预防中心以及国家癌症研究所的教育内容。利用SimpleDC及现有的Med-EASi语料库,我们探索了基于大型语言模型(LLM)的简化方法,包括微调、强化学习(RL)、带人类反馈的强化学习(RLHF)、领域适应以及基于提示的方法。我们的实验涵盖了Llama 2和GPT-4。我们引入了一种新颖的RLHF奖励函数,该函数采用轻量级模型,擅长区分原始文本与简化文本,从而增强了模型在未标注数据上的效能。结果:微调后的Llama 2模型在多项指标上展现出高性能。我们创新的RLHF奖励函数在效果上超越了现有的RL文本简化奖励函数。研究结果强调,RL/RLHF能够增强微调效果,促进在未标注文本上的模型训练,并提升性能。

【主题与分类】

主题标签:cs.AI、cs.CL、cs.LG。

【适用方向】

文本类数据可用于医学自然语言处理,如命名实体识别、信息抽取与文本分类。

【获取与许可】

源站页面:https://arxiv.org/abs/2401.15043v2

官方服务

专家保障全链路合规授权与标注交付

陕川双基地 × 超十家三甲医院直连

从合规授权、采集治理、专业标注到数据集交付,我们提供全链路闭环服务,让高质量临床数据即拿即用。

⚡️ 需要原始数据或标注支持?联系我们获取定制方案。

帮我联系

下载信息

注册下载

需要注册 Kaggle 账号并登录后下载,适合需要跟踪下载记录和使用 API 的用户。

暂未开放

公开下载

无需注册即可直接获取公开样本或文档,适合快速预览和评估数据集质量。

免登录

有偿下载

公开数据集受托下载与技术交付服务。

提供高速下载与技术交付服务(收技术服务费,非数据销售)

暂未开放

当前数据集主要来源为 Kaggle 公开托管,完整影像包建议通过原始链接或 Kaggle API 获取。

使用方式

数据集说明

简化消化系统癌症(SimpleDC) 对应论文数据集(arXiv 预印本)。

数据获取指引

  1. 打开论文页面获取作者与项目信息:https://arxiv.org/abs/2401.15043v2
  2. 论文 Data Availability / Code Availability 章节标注了数据实际托管位置;
  3. 获取到实际数据链接后,按对应平台标准方式下载。

论文摘要:Abstract:Objective: The reading level of health educational materials significantly influences the understandability and accessibility of the information, particularly for minoritized populations. Many patient educational resources surpass the reading level and complexity of widely accepted standards. There is a critical need for high-performing text simplification models in health information to enhance dissemination and literacy. This need is particularly acute in cancer education, where effective prevention and screening education can substantially reduce morbidity and mortality.
Methods: We introduce Simplified Digestive Cancer (SimpleDC), a parallel corpus of cancer education materials tailored for health text simplification research, comprising educational content from the American Cancer Society, Centers for Disease Control and Prevention, and National Cancer Institute. Utilizing SimpleDC alongside the existing Med-EASi corpus, we explore Large Language Model (LLM)-based simplification methods, including fine-tuning, reinforcement learning (RL), reinforcement learning with human feedback (RLHF), domain adaptation, and prompt-based approaches. Our experimentation encompasses Llama 2 and GPT-4. A novel RLHF reward function is introduced, featuring a lightweight model adept at distinguishing between original and simplified texts, thereby enhancing the model's effectiveness with unlabeled data.
Results: Fine-tuned Llama 2 models demonstrated high performance across various metrics. Our innovative RLHF reward function surpassed existing RL text simplification reward f

论文页面:https://arxiv.org/abs/2401.15043v2

数据缺失?

依托陕西、四川两大基地,我们与超过十家三甲医院建立直接合作关系,覆盖合规授权、采集治理、专业标注、数据交付的全流程,为AI医疗团队提供即拿即用的高质量临床数据。

⚡️ 需要数据支持或标注服务?立即联系我们获取专业方案。

获取专属数据定制方案