论文千千万,如何发现和综述新研究?这里有个利用AI技术的热门开源项目

人工智能应用1年前 (2023)发布 aixure
78 0 0
导读:机器之心报道 作者:魔王 paperai 利用 AI 技术发现和综述医疗 / 科学论文。 在研究领域,每天都会涌现大量论文,如何发现优秀论文并快速获取信息是一个难题。最近,有开发者开源了一个 AI 支持的文献发现和综述引擎 paperai,可用于医疗 / 科学论文。 GitHu…

机器之心报道

作者:魔王

paperai 利用 AI 技术发现和综述医疗 / 科学论文。

在研究领域,每天都会涌现大量论文,如何发现优秀论文并快速获取信息是一个难题。最近,有开发者开源了一个 AI 支持的文献发现和综述引擎 paperai,可用于医疗 / 科学论文。

GitHub 地址:https://github.com/neuml/paperai

paperai 可以自动执行繁琐的文献综述工作,使研究人员不必为此耗费精力,从而能够聚焦自己的核心工作。该工具运行 query 筛选出符合特定标准的论文,并执行基于问答提取技术的 report 功能,从一组医疗 / 科学论文中找出关键问题的答案。

如上图所示,paperai 运行 query 和 report,得到问题的答案,并在论文中标注出来。

据介绍,paperai 已被用于分析 COVID-19 开放研究数据集 (CORD-19),并在 CORD-19 Kaggle 挑战赛中获得了多个奖项。

paperai 背后的 AI 技术

paperai 使用 Python 构建,并使用 FastText + BM25 创建句子嵌入索引。

详情参见:https://towardsdatascience.com/building-a-sentence-embedding-index-with-fasttext-and-bm25-f07e7148d240

paperai 模型利用句子嵌入索引和 SQLite 数据库处理文章。

具体而言,模型将每篇文章解析成多个句子,并和文章元数据一起存储进 SQLite 数据库,然后基于整个数据库构建 FastText 向量。句子嵌入索引仅使用标记文章,从而帮助输出最具相关性的结果。

用户可以通过多个入口点与模型进行互动:

paperai.report:为一系列 query 构建 markdown 格式的报告。对于每条 query,模型显示最匹配的文章,并用高亮形式标示出与 query 嵌入搜索最具相关性的文章部分。

paperai.query:在终端运行一条 query。

paperai.shell:在终端运行多条 query。

项目作者展示了 paperai 在 CORD-19 挑战赛中的应用:

如何安装和使用

GitHub 项目详细介绍了 paperai 的安装和使用方法。

安装

最简单的方式是通过 pip 和 PyPI 安装:

也可以直接从 GitHub 安装 paperai,推荐使用 Python 虚拟环境,支持 Python 3.6+:

构建模型

用户可以利用以下代码为 SQLite 数据库构建索引:

模型将存储在 ~/.cord19。

构建报告文件

调用报告的示例如下:

报告支持多种格式:Markdown(默认格式)、CSV 和标注格式(即在原始 PDF 文件上显示标注结果)。

运行 query

最快速的方式是启动 paperai shell:

将出现提示。query 会被直接输入到控制台中。

「WAVE SUMMIT+2020 深度学习开发者峰会」由深度学习技术及应用国家工程实验室与百度联合主办,来自行业内的人工智能专家和开发者们将分享 AI 时代的最新技术发展和产业应用经验,诸多顶级高校人工智能专家将就 AI 人才培养展开对话,AI 开源产品及社区专家也将共话开源趋势。

本次峰会既有干货满满的分享、讨论,又有丰富多彩的展示、体验、互动,为开发者打造专属的 AI Party。

赞助本站

© 版权声明

相关文章

暂无评论

暂无评论...