- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
有足够大的商品数据库,而且还在稳步增加。现在数据库中有超过 1000 万种商品。
有好有分。每件商品都有以下属性:名称、价格、售出商品数量、保证标志和质量等。产品具有仅特定于特定类别的特征。商品的属性具有下一个格式 - 2000:10000(属性的类别:属性的值)。某些类别的属性和属性本身可能在各种类别中重叠,例如品牌。标题和属性的过滤、排序和搜索是由这些类别和属性执行的。该产品可以链接到一个或多个类别。
起初我们只使用mysql,并通过为每个类别创建一个表来存储商品。通过这种方式,我们有大约 6-7 千张带商品的 table 。在选择时,我们向他们每个人发出请求,在运算符 UNION 的帮助下合并请求。随着 cargo 数量和类别的增加,选择开始需要很长时间并放下mysql服务器。 在此之后,我们将所有产品移动到一个表中。表结构如下[如下](http://clip2net.com/s/5OUKXm。
1000万个产品的表,现在用mysql很难用。如果不谈论排序,从中选择是不太可能的。我们使用了sphinx,索引sphinx:
sql_query = SELECT \
ti.item_id, \
ti.item_id AS iid, \
crc32(ti.item_nick) AS nick, \
ti.item_title AS title, \
ti.item_sold AS sold, \
ti.item_rating AS rating, \
ti.item_popular AS popular, \
ti.item_warranty AS warranty, \
ROUND(ti.item_price*100, 0) AS price, \
ti.item_props AS props, \
COUNT(c.comment_iid) AS comments, \
GROUP_CONCAT(tcir.category_item_ref_tid) AS tids \
FROM item AS ti \
LEFT JOIN comment AS c ON ti.item_id = c.comment_iid \
INNER JOIN category_item_ref AS tcir ON ti.item_id = tcir.category_item_ref_iid \
WHERE ti.item_id >= $start AND ti.item_id <= $end \
GROUP BY ti.item_id
sql_attr_uint = sold
sql_attr_uint = rating
sql_attr_uint = comments
sql_attr_uint = warranty
sql_attr_bigint = iid
sql_attr_bigint = nick
sql_attr_bigint = price
sql_attr_bigint = popular
sql_attr_multi = uint tids from field;
通过 Sphinx 搜索速度更快,但是有很多属性,特别是 sql_attr_multi tids 会减慢搜索和排序。 60万件商品的采样时间约为18~19秒。我们试图将产品仅绑定(bind)到一个类别(属性 tids 变成了 sql_attr_uint)。采样时间减少到3~5秒,也不是很好。
你能告诉我我做错了什么吗,以另一种方式为 sphinx 建立索引可能是值得的,因为我认为它应该工作得更快。或许,我需要用另一种方式构建表结构,或者使用不同的数据库平台,例如 MySQL、MongoDB、PostgreSQL、MariaDB。
最佳答案
与许多其他遇到大型数据集的公司一样,您也面临着问题。您很幸运,因为您的用例似乎阅读量大但写作量小,因为这两个问题加在一起更糟:-)重要的是要了解数据库系统只不过是虚拟化文件系统,允许索引和锁定以及优化快速搜索(在数据和索引中)。
没有理由使用适当的查询来快速处理表中近 1000 万个项目。但是您需要优化系统和查询。什么意思?
您说要支持对某一类别的商品进行快速排序。应该怎么设计?
我写这部分是为了表明,即使是一个大型数据库表也可以很快满足您的查询需求,但您需要调整查询并提供特定的适当索引。
您应该尝试经典方法:
在我看来,没有必要在更多表中削减数据,您应该使用上述方法消除查询需要搜索的数据量 - 只需使用正确的索引即可。
您提到了表的连接。对于大数据来说,操作可能会很长,所以流行的系统是复制数据,只提供一个表(最快的方法)来从其他表中搜索重复的数据。明显的问题是更新此数据,因为您需要自动更新两个表。一旦您谈到只读,这对您来说似乎不是真正的问题 - 您可以在更新原始数据时更新重复数据。
还有其他几种方法可以应对大量的读写操作。研究 Twitter 或 Facebook 等顶级互联网公司的架构并了解他们如何处理类似问题是件好事。
关于mysql - 优化与数据库的工作,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/19001673/
目前我正在构建相当大的网络系统,我需要强大的 SQL 数据库解决方案。我选择 Mysql 而不是 Postgres,因为一些任务需要只读(MyISAM 引擎)而其他任务需要大量写入(InnoDB)。
我在 mysql 中使用如下命令。当它显示表格数据时,它被格式化为一个非常干净的表格,间距均匀且 |作为列分隔符。 SELECT * FROM TABLE_NAME; 当我从 CLI 运行命令时,如下
我知道这个问题之前已经被问过好几次了,我已经解决了很多问题,但到目前为止没有任何效果。 MySQL 试图将自身安装到的目录 (usr/local/mysql) 肯定有问题。关于我的错误的奇怪之处在于我
以下是我的 SQL 数据结构,我正在尝试如下两个查询: Select Wrk_ID, Wrk_LastName, Skill_Desc from Worker, Skill where
我们有一个本地 mysql 服务器(不在公共(public)域上),并希望将该服务器复制到我们拥有的 google 云 sql 实例。我的问题是:1.这可能吗?2.我们的本地服务器只能在本地网络上访问
我有一个表(test_table),其中一些字段值(例如字段 A、B 和 C)是从外部应用程序插入的,还有一个字段(字段 D),我想从现有表(store_table)插入其值,但在插入前者(A、B 和
我想创建一个 AWS RDS 实例,然后使用 terraform 管理数据库用户。因此,首先,我创建了一个 RDS 实例,然后使用创建的 RDS 实例初始化 mysql 提供程序,以进一步将其用于用户
当用户在我的网站上注册时,他们会在我的一个数据库中创建自己的表格。该表存储用户发布的所有帖子。我还想做的是也为他们生成自己的 MySql 用户——该用户仅有权从他们的表中读取、写入和删除。 创建它应该
我有一个关于 ColdFusion 和 Mysql 的问题。我有两个表:PRODUCT 和 PRODUCT_CAT。我想列出包含一些标记为:IS_EXTRANET=1 的特殊产品的类别。所以我写了这个
我想获取 recipes_id 列的值,以获取包含 ingredient_id 的 2,17 和 26 条目的值。 假设 ingredient_id 2 丢失则不获取记录。 我已经尝试过 IN 运算符
在 Ubuntu 中,我通常安装两者,但 MySQL 的客户端和服务器之间有什么区别。 作为奖励,当一个新语句提到它需要 MySQL 5.x 时,它是指客户端、服务器还是两者兼而有之。例如这个链接ht
我重新访问了我的数据库并注意到我有一些 INT 类型的主键。 这还不够独特,所以我想我会有一个指导。 我来自微软 sql 背景,在 ssms 中你可以 选择类型为“uniqeidentifier”并自
我的系统上有 MySQL,我正在尝试确定它是 Oracle MySQL 还是 MySQL。 Oracle MySQL 有区别吗: http://www.oracle.com/us/products/m
我是在生产 MySQL 中运行的应用程序的新维护者。之前的维护者已经离开,留下的文档很少,而且联系不上了。 我面临的问题是执行以下请求大约需要 10 秒: SELECT COUNT(*) FROM `
我有两个位于不同机器上的 MySQL 数据库。我想自动将数据从一台服务器传输到另一台服务器。比方说,我希望每天早上 4:00 进行数据传输。 可以吗?是否有任何 MySQL 内置功能可以让我们做到这一
有什么方法可以使用 jdbc 查询位于 mysql 根目录之外的目录中的 mysql 表,还是必须将它们移动到 mysql 根目录内的数据库文件夹中?我在 Google 上搜索时没有找到任何东西。 最
我在 mysql 数据库中有两个表。成员和 ClassNumbers。两个表都有一个付费年份字段,都有一个代码字段。我想用代码数字表中的值更新成员表中的付费年份,其中成员中的代码与 ClassNumb
情况:我有 2 台服务器,其中一台当前托管一个实时 WordPress 站点,我希望能够将该站点转移到另一台服务器,以防第一台服务器出现故障。传输源文件很容易;传输数据库是我需要弄清楚如何做的。两台服
Phpmyadmin 有一个功能是“复制数据库到”..有没有mysql查询来写这个函数?类似于将 db A 复制到新的 db B。 最佳答案 首先创建复制数据库: CREATE DATABASE du
我有一个使用 mySQL 作为后端的库存软件。我已经在我的计算机上对其进行了测试,并且运行良好。 当我在计算机上安装我的软件时,我必须执行以下步骤: 安装 mySQL 服务器 将用户名指定为“root
我是一名优秀的程序员,十分优秀!