机器之心报道
作者:魔王
paperai 利用 AI 技术发现和综述医疗 / 科学论文。
在研究领域,每天都会涌现大量论文,如何发现优秀论文并快速获取信息是一个难题。最近,有开发者开源了一个 AI 支持的文献发现和综述引擎 paperai,可用于医疗 / 科学论文。
GitHub 地址:https://github.com/neuml/paperai
paperai 可以自动执行繁琐的文献综述工作,使研究人员不必为此耗费精力,从而能够聚焦自己的核心工作。该工具运行 query 筛选出符合特定标准的论文,并执行基于问答提取技术的 report 功能,从一组医疗 / 科学论文中找出关键问题的答案。
如上图所示,paperai 运行 query 和 report,得到问题的答案,并在论文中标注出来。
据介绍,paperai 已被用于分析 COVID-19 开放研究数据集 (CORD-19),并在 CORD-19 Kaggle 挑战赛中获得了多个奖项。
paperai 背后的 AI 技术
paperai 使用 Python 构建,并使用 FastText + BM25 创建句子嵌入索引。
详情参见:https://towardsdatascience.com/building-a-sentence-embedding-index-with-fasttext-and-bm25-f07e7148d240
paperai 模型利用句子嵌入索引和 SQLite 数据库处理文章。
具体而言,模型将每篇文章解析成多个句子,并和文章元数据一起存储进 SQLite 数据库,然后基于整个数据库构建 FastText 向量。句子嵌入索引仅使用标记文章,从而帮助输出最具相关性的结果。
用户可以通过多个入口点与模型进行互动:
paperai.report:为一系列 query 构建 markdown 格式的报告。对于每条 query,模型显示最匹配的文章,并用高亮形式标示出与 query 嵌入搜索最具相关性的文章部分。
paperai.query:在终端运行一条 query。
paperai.shell:在终端运行多条 query。
项目作者展示了 paperai 在 CORD-19 挑战赛中的应用:
如何安装和使用
GitHub 项目详细介绍了 paperai 的安装和使用方法。
安装
最简单的方式是通过 pip 和 PyPI 安装:
也可以直接从 GitHub 安装 paperai,推荐使用 Python 虚拟环境,支持 Python 3.6+:
构建模型
用户可以利用以下代码为 SQLite 数据库构建索引:
模型将存储在 ~/.cord19。
构建报告文件
调用报告的示例如下:
报告支持多种格式:Markdown(默认格式)、CSV 和标注格式(即在原始 PDF 文件上显示标注结果)。
运行 query
最快速的方式是启动 paperai shell:
将出现提示。query 会被直接输入到控制台中。
「WAVE SUMMIT+2020 深度学习开发者峰会」由深度学习技术及应用国家工程实验室与百度联合主办,来自行业内的人工智能专家和开发者们将分享 AI 时代的最新技术发展和产业应用经验,诸多顶级高校人工智能专家将就 AI 人才培养展开对话,AI 开源产品及社区专家也将共话开源趋势。
本次峰会既有干货满满的分享、讨论,又有丰富多彩的展示、体验、互动,为开发者打造专属的 AI Party。