Series(一维数据结构)和DataFrame(二维数据结构,类似表格),这些数据结构可以方便地处理各种类型的数据,包括数值型、字符型等。import pandas as pd
s = pd.Series([1, 3, 5, np.nan, 6, 8])Series组成的,每个Series代表一列数据。例如:
data = {'name': ['Alice', 'Bob', 'Charlie'],
'age': [25, 30, 35],
'city': ['New York', 'London', 'Paris']}
df = pd.DataFrame(data)df = pd.read_csv('data.csv')df = pd.read_excel('data.xlsx')DataFrame写入CSV文件:
df.to_csv('new_data.csv', index=False)df.to_excel('new_data.xlsx', sheet_name='Sheet1', index=False)dropna()方法删除包含缺失值的行或列。例如:
df.dropna(axis = 0) # 删除包含缺失值的行fillna()方法填充缺失值,如:
df.fillna(0) # 用0填充缺失值drop_duplicates()方法删除重复的行。例如:
df.drop_duplicates()astype()方法转换列的数据类型。例如:
df['age'] = df['age'].astype(int)df[df['age'] > 30]sort_values()方法对数据进行排序。例如,按照年龄升序排序:
df.sort_values(by='age')describe()方法获取数据的基本统计信息,如均值、中位数、标准差等。例如:
df.describe()corr()方法用于计算相关系数:
df.corr()groupby()方法对数据进行分组。例如,按照城市对数据进行分组:
grouped = df.groupby('city')grouped.mean()
1 个月前
MongoDB 和 PostgreSQL 都是当今最顶尖的数据库,但它们的设计哲学截然不同。没有绝对的“赢家”,只有更适合我们场景的工具。 为了帮助我们做出决定,本文将从核心差异、适用场景和决策建议三个维度为你详细拆解。 ⚔️ 核心差异速览 首先,我们需要理解它们最本质的区别: PostgreSQL (Postgres):是关系型数据库 (SQL) 的典范。它像一个严谨的图书管理员,要求你先定义好书架(表结构),再把内容规整地放入格子中。它强调数据的强一致性、完整性和复杂的关联查询。 MongoDB:是文档型数据库 (NoSQL) 的代表。它像一个灵活的储物箱,你直接把整个“包裹”(JSON-like 文档)扔进去就行,不需要预先定义里面有什么。它强调灵活性、高吞吐量和水平扩展能力。 为了一目了然,我整理了这份对比表: 维度 PostgreSQL (SQL) MongoDB (NoSQL) 数据模型 表格结构(行和列),严格 Schema 文档结构(BSON/JSON),灵活 Schema 查询语言 标准 SQL,支持复杂的多表 JOIN MongoDB 查询语言 (MQL),擅长单集合查询 扩展方式 主要靠垂直扩展(升级服务器配置) 天生支持水平扩展(分片,加机器) 事务支持 完整的 ACID 事务,强一致性 支持多文档 ACID 事务,但更偏向高性能 适用数据 结构化数据,数据关系复杂 半结构化/非结构化数据,数据结构多变 🧭 场景决策:什么时候选哪个? 🅿️ 选择 PostgreSQL 的情况 如果业务场景符合以下特征,PostgreSQL 是不二之选: 需要复杂的关联查询 (JOIN) 比如电商系统,你需要把“订单表”、“用户表”、“商品表”关联起来,计算某个用户在某段时间的消费总额。PostgreSQL 的 SQL 优化器在处理这种复杂查询时比 MongoDB 强大得多。 对数据一致性要求极高 (ACID) 比如银行转账、金融交易系统。你必须确保数据的绝对准确,不能容忍“最终一致性”带来的延迟。PostgreSQL 的强一致性模型(Serializable 隔离级别)能给你最强的安全感。 数据结构相对稳定 如果业务逻辑已经很成熟,表结构很少变动,PostgreSQL 严谨的 Schema 能帮你避免很多数据错误。 地理空间数据处理 (PostGIS) 如果需要做地图相关的复杂计算(如“查找附近5公里的医院”),PostgreSQL 的 PostGIS 扩展是行业标准,功能比 MongoDB 的地理空间查询更强大。 🅼️ 选择 MongoDB 的情况 如果你的业务场景符合以下特征,MongoDB 会让你开发得更爽: 数据结构灵活多变 (Schema-less) 比如内容管理系统(CMS)或用户画像系统。不同用户可能有不同的属性,或者需求迭代非常快,今天要加个“爱好”字段,明天要加个“等级”字段。MongoDB 不需要改表结构,直接插入新字段即可,不会阻塞线上业务。 海量数据写入与高并发 比如物联网(IoT)数据、日志收集、实时分析。这些场景下数据像洪水一样涌来,且主要是插入操作。MongoDB 的分片(Sharding)机制可以让你轻松地通过增加服务器来横向扩容,扛住巨大的流量。 数据本身就是“文档”形式 比如博客文章、评论、JSON 配置文件。这些数据天然就是嵌套的结构,用 MongoDB 存储,直接就是一对一的映射,不需要像在 SQL 里那样为了存一个对象而拆分成多张表。 快速原型开发 如果是初创公司,或者在做一个新项目,业务逻辑还不确定。MongoDB 的灵活性能让你快速迭代,不用在项目初期就花大量时间设计复杂的数据库表结构。 🤝 一个有趣的趋势:界限正在模糊 值得注意的是,这两个数据库都在互相学习对方的优点: PostgreSQL 现在拥有极好的 JSONB 支持。你可以把表的一列定义为 JSONB 类型,像存文档一样存数据,甚至可以对 JSON 里面的字段建索引。这使得 Postgres 也能胜任很多 NoSQL 的场景。 MongoDB 在 4.0 版本之后引入了多文档 ACID 事务,并增强了聚合管道的能力,让它也能处理更复杂的业务逻辑。 📌 总结建议 如果是做金融、ERP、CRM 或者需要复杂报表分析,请毫不犹豫地选择 PostgreSQL。它成熟、稳健、功能强大。 如果是做社交 App、游戏、物联网、内容平台 或者需要快速迭代的初创项目,MongoDB 会让你的开发效率倍增,运维压力更小。 在实际的大型项目中,混合使用也是一种非常聪明的策略。例如:用 MongoDB 存储原始的用户行为日志(写入快、灵活),然后通过 ETL 工具清洗后存入 PostgreSQL 供运营人员做复杂的财务或业务分析(查询强、一致性强)。

1 年前
图形数据库(Graph DB)是一种专门用于存储和处理图形结构数据的数据库。

1 年前
2024年12月18日,AI数据分析平台Databricks宣布启动J轮融资,目标为100亿美元,目前已完成86亿美元.。 此轮融资由Thrive Capital领投,Andreessen Horowitz、DST Global、GIC、Insight Partners和WCM Investment Management等联合领投,安大略省教师退休基金、ICONIQ Growth、MGX、Sands Capital以及Wellington Management等也参与其中.。融资后Databricks估值达620亿美元,成为全球最具价值的私营公司之一。 Databricks表示,这笔融资的用途主要有以下几个方面:一是为现任和前任员工提供流动性;二是进行战略收购,加速公司成长,如该公司在2023年6月收购MosaicML等,以加强在Data+AI布局;三是拓展海外市场,强化全球竞争力;四是开发更多AI产品,吸引顶尖人才。 另外,Databricks预计在截至2025年1月31日的季度内将首次实现正自由现金流,并达到30亿美元的年化收入。 其首席执行官Ali Ghodsi曾表示,公司IPO最早可能在2025年年中进行。

1 年前
当将 RAG 企业落地时,以下是一些需要注意的事项: 数据质量与管理: 确保数据的准确性、完整性和一致性。对用于检索的知识库进行严格筛选和清理,去除错误、过时或不相关的信息,以免影响生成结果的质量。 建立有效的数据更新机制,以保证知识库中的信息能够及时反映最新的知识和业务动态。例如,定期更新文档、数据库记录等。 对数据进行分类和标记,便于在检索时能够准确地定位到相关内容。这可能涉及到制定合适的分类体系和标签规则。 查询处理与优化: 针对不规范的查询和短查询,采用合适的处理方法。例如,通过意图分析确定用户意图,缩小召回范围;进行关键词提取,以便根据关键词进行检索;或者主动向用户提问以获取更多信息,从而使查询更加明确。 优化查询的性能和效率,避免出现响应时间过长等问题。可以通过选择合适的索引技术、优化检索算法等方式来提高查询速度。 集成结构化数据:如果企业中存在结构化数据(如关系数据库、Excel 文件等),需要考虑如何将其有效地整合到 RAG 流程中。这可能需要开发相应的数据接口或转换工具,以确保结构化数据能够与非结构化数据一起被检索和利用,为生成更全面和准确的回答提供支持。 模型选择与调优: 根据企业的具体需求和应用场景,选择合适的 RAG 模型架构和相关技术。不同的开源框架或商业解决方案在功能、性能、可扩展性等方面可能存在差异,需要进行充分的评估和比较。 对所选的模型进行调优,包括调整参数、优化训练过程等,以提高模型在企业数据上的表现。例如,可以使用特定领域的数据集进行进一步的微调,使模型更好地适应企业的业务知识和语言特点。 结果评估与反馈: 建立评估指标体系,对 RAG 生成的结果进行客观的评估。这可以包括准确性、相关性、可读性等方面的指标,通过与人工标注的结果进行对比或进行用户满意度调查等方式来衡量生成结果的质量。 根据评估结果,及时收集反馈信息,以便对模型和系统进行进一步的改进和优化。例如,如果发现某些类型的问题经常出现错误回答,可以针对性地调整数据或模型。 安全与隐私保护: 确保企业数据的安全,采取措施防止数据泄露、未经授权的访问等问题。这可能涉及到数据加密、访问控制、安全审计等方面的技术和管理措施。 如果处理的是包含个人隐私信息的数据,必须严格遵守相关的隐私法规和政策,对用户隐私进行保护。例如,在数据收集、存储和使用过程中,明确告知用户并获得其同意,对敏感信息进行脱敏处理等。 可扩展性与兼容性: 考虑企业未来的发展和业务扩展需求,选择具有良好可扩展性的 RAG 解决方案。这包括能够支持更大规模的数据量、更多的用户访问以及更复杂的应用场景等。 确保 RAG 系统与企业现有的技术架构和软件系统具有良好的兼容性,能够方便地进行集成和对接。例如,与企业的业务系统、数据库、应用程序等进行无缝连接,以实现数据的共享和交互。 用户体验与界面设计: 设计友好、直观的用户界面,使用户能够方便地输入查询并理解生成的回答。提供清晰的操作指引和反馈信息,降低用户的使用门槛和学习成本。 优化生成结果的呈现方式,使其易于阅读和理解。例如,对长篇幅的回答进行分段、突出关键信息、提供相关的参考资料或链接等。 成本控制与效益分析: 评估 RAG 项目的成本,包括技术采购、数据处理、模型训练、系统维护等方面的费用,确保在企业的预算范围内。 分析 RAG 系统为企业带来的效益,如提高工作效率、改善客户服务、创造新的业务机会等,以证明项目的投资价值。通过持续的效益分析,不断优化 RAG 系统的应用策略,以实现最大的收益。 法律合规性:了解并遵守相关的法律法规,特别是在涉及知识产权、内容创作、数据使用等方面。确保 RAG 生成的内容不侵犯他人的版权、商标权等合法权益,避免可能的法律风险。 总之,RAG 企业落地需要综合考虑技术、数据、业务、用户等多个方面的因素,通过精心的规划、实施和不断的优化,才能实现其在企业中的有效应用和价值最大化。在实施过程中,建议与专业的技术团队、法律顾问等进行合作,以确保各项工作的顺利进行。

1 年前
RAG 技术在不同行业的广泛应用和巨大潜力,企业利用RAG技术激活企业内如数据,让企业再次焕发生命力!

1 年前
在 AI 在自然语言处理等任务中,“chunk”可以理解为“组块”。 它指的是将文本或数据分割成较小的、有意义的单元或片段。

1 年前
LightGBM是一种高效的梯度提升框架,由一系列决策树组成,通过不断地添加新的决策树来逐步提高模型的预测性能。

1 年前
PyCharm 是一个强大的集成开发环境(IDE),专门用于 Python 编程。它提供了丰富的功能,如代码补全、调试、版本控制和项目管理等,旨在提高开发效率和用户体验。然而,PyCharm 本身并不能替代 Python。 关键点: PyCharm 的角色: PyCharm 作为 IDE,提供了编写、调试和运行 Python 代码的环境和工具。 它并不包含 ...
Minimax(海螺AI)已由大模型名Minimax替换原海螺AI。现海螺AI为Minimax视频生成产品名。
海螺AI