Skip to content

Latest commit

 

History

History
408 lines (299 loc) · 9.12 KB

postgres.md

File metadata and controls

408 lines (299 loc) · 9.12 KB

postgres 常用sql

安装、启动、关闭

centos安装

sudo yum install https://download.postgresql.org/pub/repos/yum/9.5/redhat/rhel-6-x86_64/pgdg-centos95-9.5-3.noarch.r个pm

sudo yum install postgresql95-server postgresql95-contrib
systemctl start docker
docker pull postgres
docker run --name pg -e POSTGRES_PASSWORD=xxx -p 0.0.0.0:5432:5432 -d postgres

mac安装:

主路径: /usr/local/var/postgres

  1. postgres.app安装 安装postgres.app后, ~/.bash_profile 里追加 export PATH=$PATH:/Applications/Postgres.app/Contents/Versions/latest/bin

  2. brew安装

brew install postgres
brew install postgis
initdb /usr/local/var/postgres
#启动服务
 
#停止服务
pg_ctl -D /usr/local/var/postgres stop -s -m fast

createuser -d -a -P postgres

启动

brew services start postgresql

关闭

brew services stop postgresql pg_ctl -D /usr/local/var/postgres stop -s -m fast

常用系统级查询

所有db占硬盘的大小:

select datname, pg_size_pretty(pg_database_size(datname)) from pg_database;   

某db占硬盘的大小:

select pg_size_pretty(pg_database_size('dbname'));

某table占硬盘的大小:

select pg_size_pretty(pg_table_size('tablename'));

目前访问情况:

select * from pg_stat_activity;

所有表的信息:

select * from information_schema.tables where table_type = 'BASE TABLE' and table_schema not in('information_schema', 'pg_catalog')

存在性

判断schema是否存在

SELECT 1 FROM pg_namespace WHERE nspname = 'schema_name'

连接表

psql -U kupai -h rm-2zemyd8m8n226shs7o.pg.rds.aliyuncs.com -p 3432 -d spider

导入导出相关

备份表(dump)

 pg_dump -U name -h host -p port  spider -f filepath

有时需要设置 COLLATE

ALTER TABLE  house_lianjia_communities
ALTER COLUMN house_type type Character Varying( 255 ) COLLATE "pg_catalog"."default"

同步数据

PostgreSQL使用 postgres_fdw 进行跨库操作

collate是个大坑 导致dump无法复制到服务器

导入备份

 psql -d dbname -U username -f filepath
pg_restore -U xxx -d dbname < filepath

本地表 -> 远端服务器

psql -U username -h hostname -d desintationdb -p port -f dumpfilename.sql

创建表 / 索引

创建表:

DROP TABLE if exists track_kuaidi; --可以判断是否存在
CREATE TABLE track_kuaidi (
	driver_id TEXT,
    lat FLOAT,
    lng FLOAT,
    time TIMESTAMP
);

非常方便的 CREATE TABLE, 不必写表结构:

CREATE TABLE track_kuaidi_test1 as (select a, b, c from tb);

如果忘了几何字段,可以补上:

CREATE INDEX pt_index on track_kuaidi_test using gist (geom);

插件

easy_install 安装pgxn 参考 PostgreSQL Extensions on Mac OS X

sudo easy_install pgxnclient

安装插件

sudo pgxn install 插件名

为某个db加入插件

pgxn load -d 数据库名 -U 用户名 -p 端口 插件名

导入导出

处理csv 可以考虑AWK。例子

如果是本地数据到服务器的话,使用\copy

COPY dbname(field1, field2, field3) from './xxx.csv' with DELIMITER ',' CSV HEADER;

导出时候 可选择写个sql进行筛选

COPY (select * from xxx) TO './xxx.csv'

表导表,可以考虑:

复制表结构

create table f(like e);  

json => array

json_array_elements(json)

操作技巧

UPSERT

INSERT INTO b (pk_b, b, comment) 
SELECT pk_a, a, comment
FROM   a 
ON     CONFLICT (pk_b) DO UPDATE  -- conflict is on the unique column
SET    b = excluded.b;  --注意这里是excluded

随机抽取n条

SELECT * FROM tbs 
ORDER BY random() 
LIMIT n;

查询结果合并 UNION

SELECT field_1[, field_2,…]
FROM table_1[, table_2,…]
UNION [ALL]
SELECT field_a[, field_b,...]
FROM table_a[, table_b,…];

jsonb extend 问题

9.5以下安装插件jsonbx, 更多参考 德哥大作:

select jsonb_concat('{"a":1, "b":2}'::jsonb,'{"b":4, "c":3}'::jsonb)

物化视图

物化视图 VS 普通视图,扫描的数据更少

--建立物化视图
 CREATE MATERIALIZED VIEW mv_highgo_T  
 AS SELECT * FROM highgo_T WHERE id > 10;
--刷新物化视图,如使用with no data刷新,导致物化视图里面的数据清除不可用
 REFRESH MATERIALIZED VIEW mv_highgo_T;

计算面积,距离等,一种通用性的做法是转化为 geography 对象

st_area(geom :: geography)

行列转换(可排序)

select array_agg(x) x,array_agg(y order by y desc) y from tb

数组相关

拍平成行

SELECT unnest(array[1,3]); 

数组无重复合并

create or replace function arr_merge(anyarray, anyarray) returns anyarray as $$      
  select array(select unnest(array_cat($1,$2)) group by 1);    
$$ language sql strict;

优化 count distinct,这样的sql执行很慢

select count(distinct sex) from sex; 

不如

select sex from sex group by sex; 

如果特殊字符多,很容易不能插入,可以考虑Dollar-Quoted String Constants

地理相关

导入轨迹数据(纯点) 从csv导入轨迹数据(lat, lng, time)后,建立点几何对象:

ALTER table track_kuaidi add COLUMN  pt geometry(POINT, 4326); 

表track_kuaidi很大,可建立小规模测试表

select * into track_kuaidi_test from track_kuaidi limit 10000;

可以这样设计轨迹表 track_kuaidi_track

INSERT INTO track_kuaidi_track 
SELECT
  driver_id,
  ST_MakeLine(pt ORDER BY time ASC) AS geom
FROM track_kuaidi_test
GROUP BY driver_id;

但轨迹最好带有时间参数,因此这么做更好,参考这里 :

INSERT INTO track_kuaidi_track 
SELECT
  driver_id,
  ST_MakeLine(
    ST_MakePointM(ST_X(pt), ST_Y(pt), extract(epoch from time)::integer) ORDER BY time ASC
  ) AS geom
FROM track_kuaidi_test
GROUP BY driver_id;

其中

extract(epoch from time)::integer

是把 TIMESTAMP 转化为1970年开始的秒数,```ST_MakePointM 只能接受float型的参数。

另外,这个表的建立是

drop table if exists track_kuaidi_track;
create table track_kuaidi_track(
  driver_id text,
  geom geometry(LINESTRINGM, 4326)
);

注意 geom字段的 geometry(LINESTRINGM, 4326)

最后建立几何索引 不再详述。

地理查询

1、 轨迹与geojson格式的包围圈有交集;

with geojson as (
 select st_geomFromGeojson(
  '{"type":"LineString","coordinates":[[120.19085884094238,30.26358944099115],[120.19085884094238,30.275524183056834],[120.20055770874025,30.277154904692335],[120.20047187805174,30.271373132994828],[120.20124435424806,30.262625702860728],[120.19103050231934,30.262996372491795],[120.19085884094238,30.26358944099115]]}'
 )
)

select where st_intersects()

分词/文本搜索

全列搜索 参考

create or replace function record_to_text(anyelement) returns text as $$  
  select $1::text;                        
$$ language sql strict immutable;  

 select * from tb where price > 0
 AND record_to_text(tb) ~ '0.84';

把句子拆分成分词后拍平

	UNNEST( regexp_split_to_array(regexp_replace(to_tsvector('jiebacfg',xxxx)::text,'(:\d+)', '', 'g'), ' ')
	) as yyyyy

中文分词,可以选择zhparser, pg_jieba

词云统计

SELECT * FROM ts_stat('SELECT content_tvector FROM dncs WHERE "from" like ''%@dnc.org''')
    ORDER BY nentry DESC;

PostgreSQL的全文检索系统之基本介绍

统计相关

总体方差 : population covariance 总体标准差 : population standard deviation 样本方差 : sample covariance 样本标准差 : sample standard deviation

1,2,3,100 这组数据共4个值, 总体均值和样本均值分别为 : (1+2+3+100)/4 = 26.5 variance = var_samp(总体方差): ((1-26.5)^2 + (2-26.5)^2 + (3-26.5)^2 + (100-26.5)^2)/4 = 1801.25 var_pop(样本方差): ((1-26.5)^2 + (2-26.5)^2 + (3-26.5)^2 + (100-26.5)^2)/(4-1) = 2401.6666.... stddev_pop(总体标准差): 平方根(总体方差) = 42.4411357058220109 stddev = stddev_samp(样本标准差): 平方根(样本方差) = 49.0068022489395513

资料

awesome-postgres EN

postgres学习资料

服务器部署postgres

Postgres的存储过程简介 CN

总体|样本 方差, 标准方差