- android - 多次调用 OnPrimaryClipChangedListener
- android - 无法更新 RecyclerView 中的 TextView 字段
- android.database.CursorIndexOutOfBoundsException : Index 0 requested, 光标大小为 0
- android - 使用 AppCompat 时,我们是否需要明确指定其 UI 组件(Spinner、EditText)颜色
我有一个用于废弃网页数据的代码,它工作正常。下面是我正在使用的代码。面临以下问题。
结果我得到了 5 个列表,我已经使用 ZIP 函数合并了这些列表,如下所示
result = zip(positions,filtered, urls, company,price)
print(tuple(result))
此print(tuple(result))的结果如下所示
((1, 'product_1', 'URL_1', 'company_1', '34.90'),
(2, 'product_2', 'URL_2', 'company_2', '5.99'),
(3, 'product_3', 'URL_3', 'company_3', '30.20'))
已使用以下内容插入 Postgres 但未插入,
for d in result:
print(d)
psql_cursor.execute("INSERT into results(position, product_name, url,company,price) VALUES (%s, %s, %s,%s, %s)", d)
任何建议都会非常有帮助。提前致谢!
完整查询:
from selenium import webdriver
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from selenium.common.exceptions import TimeoutException
import psycopg2
import datetime
results=[]
option = webdriver.ChromeOptions()
option.add_argument("—-incognito")
#browser = webdriver.Chrome(executable_path='/usr/local/bin/chromedriver/', chrome_options=option)
browser = webdriver.Chrome(executable_path='/users/lins/downloads/chrome_driver/chromedriver', chrome_options=option)
try:
#Database connection string
DSN = "dbname='postgres' user='postgres' host='localhost' password='postgres' port='5432'"
#DWH table to which data is ported
TABLE_NAME = 'search_url'
#Connecting DB..
conn = psycopg2.connect(DSN)
print("Database connected...")
conn.set_client_encoding('latin-1')
cur = conn.cursor()
except (Exception, psycopg2.Error) as error:
print('database connection failed')
quit()
search_url_fetch="""select url_to_be_searched from search_url limit 1"""
psql_cursor = conn.cursor()
psql_cursor.execute(search_url_fetch)
serach_url_list = psql_cursor.fetchall()
print('Fetched DB values')
for row in serach_url_list:
passed_url=''
passed_url=str(row)
passed_url=passed_url.replace(',)','')
passed_url=passed_url.replace('(','')
new_url=''
new_url=passed_url[1:len(passed_url)-1]
print(new_url)
print("\n")
print(new_url)
browser.get(new_url)
product_name_list = browser.find_elements_by_xpath("//span[@class='pymv4e']")
upd_product_name_list=list(filter(None, product_name_list))
product_name = [x.text for x in product_name_list]
#print('Product names:')
filtered = [x for x in product_name if len(x.strip()) > 0]
element_length=(len(filtered))
print('length: '+str(element_length))
if element_length ==0 and 'buy' not in new_url :
browser.get(new_url+ '+buy')
product_name_list = browser.find_elements_by_xpath("//span[@class='pymv4e']")
upd_product_name_list=list(filter(None, product_name_list))
product_name = [x.text for x in product_name_list]
filtered = [x for x in product_name if len(x.strip()) > 0]
positions=[]
for x in range(1, element_length+1):
positions.append(x)
company_name_list = browser.find_elements_by_xpath("//div[@class='LbUacb']")
company = [x.text for x in company_name_list]
price_list = browser.find_elements_by_xpath("//div[@class='e10twf T4OwTb']")
price = [x.text for x in price_list]
urls=[]
find_href = browser.find_elements_by_xpath("//a[@class='plantl pla-unit-single-clickable-target clickable-card']")
for my_href in find_href:
url_list=my_href.get_attribute("href")
urls.append(url_list)
print('Final Result:')
result = zip(positions,filtered, urls, company,price)
print("\n")
print(tuple(result))
for d in result:
print(d)
psql_cursor.execute("INSERT into results(position, product_name, url,company,price) VALUES (%s, %s, %s,%s, %s)", d)
异常(exception):
Traceback (most recent call last):
File "/Users/lins/Documents/hgh.py", line 118, in <module>
cur.execute("INSERT into results(position, product_name, url,company,price) VALUES (%s, %s, %s,%s, %s)", d)
File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/psycopg2/extensions.py", line 125, in getquoted
qobjs = [o.getquoted() for o in pobjs]
File "/Library/Frameworks/Python.framework/Versions/3.7/lib/python3.7/site-packages/psycopg2/extensions.py", line 125, in <listcomp>
qobjs = [o.getquoted() for o in pobjs]
UnicodeEncodeError: 'latin-1' codec can't encode character '\u20ac' in position 0: ordinal not in range(256)
最佳答案
您需要将更改提交到数据库。
来自docs :(强调我的)
commit()
Commit any pending transaction to the database.
By default, Psycopg opens a transaction before executing the first command: if commit() is not called, the effect of any data manipulation will be lost.
The connection can be also set in “autocommit” mode: no transaction is automatically open, commands have immediate effect. See Transactions control for details.
关于python - 向 PostgreSQL 插入元组的问题,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/59858519/
我的 postgresql 有问题,我复制了所有文件,然后将其删除。然后,我安装了新的,问题就解决了。现在可以将旧文件和文件导入新文件吗? 最佳答案 如果它们是相同的主要版本(即 9.0 到 9.0.
我想使用 Postgresql 9.2.2 来存储我的应用程序的数据。我不得不构建一个应该基于数据库级别的触发器(当数据库启动时,这个触发器将被触发并执行。),当 postgresql 服务器启动时是
我已经使用下面的查询从 Postgresql 目录表中获取 Sequence 对象的完整信息 select s.sequence_name, s.start_value, s.minimum_valu
Postgres 版本:9.3.4 我需要执行驻留在远程数据库中的函数。该函数根据给定的参数返回一个统计数据表。 我实际上只是在我的本地数据库中镜像该函数,以使用我的数据库角色和授权来锁定对该函数的访
我在 CentOS 7 上,我正在尝试解决“PG::ConnectionBad: FATAL: Peer authentication failed for user”错误。 所以我已经想出我应该更改
我写了一个触发器函数,在触发器表列名上循环,我从具有不同列的不同表调用该函数。该函数将列名插入到数组中并在它们上循环,以便将值插入到另一个模式和表中。 函数和触发器创建脚本: DROP TRIGGER
PostgreSQL 的默认空闲连接超时是多少,我运行了 show idle_in_transaction_session_timeout 查询并返回了 0,但是值 0 表示此选项被禁用,但我想知道默
我需要将十六进制值存储到数据库表中,谁能推荐我需要用于属性的数据类型? 提前致谢 最佳答案 您可以使用bytea 来存储十六进制格式。更多信息 can be found in the postgres
我有一个具有复合主键的(大)表,由 5 列(a、b、c、d、e)组成。 我想高效地选择具有其中两列 (a + e) 的所有行到给定值。 在 PostgreSQL 中,我需要索引吗?或者数据库会使用主键
在阅读 PostreSQL (13) 文档时,我遇到了 this页面,其中列出了不同日期时间类型的存储大小。 除其他外,它指出: Name Storag
我有两个大整数的巨大表(500 000 000 行)。两列都被单独索引。我正在使用语法批量插入此表: INSERT into table (col1, col2) VALUES(x0, y0), (x
有一台 CentOS7 Linux 机器正在运行(不是由我管理;拥有有限的权限)。 请求在其中设置 PostgreSQL。 刚刚从 CentOS 存储库安装了 PostgreSQL: sudo yum
我在 Ubuntu 18.04 上安装了 Postgresql 10,但不知何故坏了,不会重新启动。我可以重新安装它而不破坏它的数据库,以便我可以再次访问数据库吗? pg_dump 不起作用。 最佳答
我想在 UNIX 中使用 crontab 自动备份 PostgreSQL 数据库。我已经尝试过,但它会创建 0 字节备份。 我的 crontab 条目是: 24 * * * * /home/desk
我已经完成了PG服务器的安装。我希望能够使用 pgAdmin 远程连接到它,但不断收到服务器不听错误。 could not connect to server: Connection refused
Oracle 支持波斯历但需要知道 PostgreSQL 是否支持波斯历? 如果是,那么我们如何在 PostgreSQL 中将默认日历类型设置为 Persian 而不是 Gregorian(在 Ora
假设我们有一个带有表的 SQL 数据库 Person以及访问它的几个应用程序。出于某种原因,我们想修改 Person表以向后不兼容的方式。 保持兼容性的一种潜在解决方案是将表重命名为 User并创建一
我使用 PostgreSQL 中的模式来组织我庞大的会计数据库。每年年底,我都会通过为下一年创建一个新模式来进行协调过程。 新模式的文件是否与旧模式物理分离?或者所有模式一起存储在硬盘上? 这对我来说
我正在尝试使用配置文件中的以下配置参数调整 PostgreSQL 服务器: autovacuum_freeze_max_age = 500000000 autovacuum_max_workers =
我的数据包含数据库列中的表情符号,即 message_text ------- 🙂 😀 Hi 😀 我只想查询包含表情符号的数据的行。在 postgres 中是否有一种简单的方法可以做到这一点?
我是一名优秀的程序员,十分优秀!