Python近几年风头正劲,在Web、大数据、人工智能、运维等多个领域占据一席之地。 ,好像是这样形容的。
虽然Python有GIL的问题,多线程不能充分利用多核,但是后来多进程可以从多进程的角度来利用多核,甚至affinity可以绑定到特定的CPU核上,可以被视为解决方案。虽然它基本上是一门全栈语言,但有时为了效率,你还是会考虑和C语言混用。
混合是计算机中无法回避的话题。它涉及的东西很多,技术、架构、团队情况、管理、客户等各个环节都可能对它产生影响。想到mix这个问题我会专门发帖讨论。本文只讲python和C混合使用的方式,大致有以下几种方式(本文背景为linux,其他平台可以对比):
共享库
使用C语言编译生成共享库,然后python使用ctype库中的cdll打开共享库。
举例如下,C语言代码为
/* func.c */
int func(int a)
{
return a*a;
}
python代码为
#!/usr/bin/env python
#test_so.py
from ctypes import cdll
import os
p = os.getcwd() + '/libfunc.so'
f = cdll.LoadLibrary(p)
print f.func(99)
测试如下:
$ gcc -fPIC -shared func.c -o libfunc.so
$ ./test_so.py
9801
subprocess
C语言设计一个完整的可执行文件,然后python通过subprocess来执行可执行文件,本质上就是fork+execve。
举例如下,C语言代码为
/* test.c */
#include <stdio.h>
int func(int a)
{
return a*a;
}
int main(int argc, char **argv)
{
int x;
sscanf(argv[1], "%d", &x);
printf("%d\n", func(x));
return 0;
}
Python代码为
#!/usr/bin/env python
# test_subprocess.py
import os
import subprocess
subprocess.call([os.getcwd()+'/a.out', '99'])
测试如下:
$ gcc test.c -o a.out
$ ./test_subprocess.py
9801
C语言中运行python程序
C语言使用popen/system或者直接运行系统调用级别的python程序fork+exec也是一种混用的手段。
举例如下,Python代码如下:
#!/usr/bin/env python
# test.py
import sys
x = int(sys.argv[1])
print x*x
C语言代码如下:
/* test.c */
#include <stdio.h>
#include <stdlib.h>
int main()
{
FILE *f;
char s[1024];
int ret;
f = popen("./test.py 99", "r");
while((ret=fread(s,1,1024,f))>0) {
fwrite(s,1,ret,stdout);
}
fclose(f);
return 0;
}
测试如下:
$ gcc test.c
$ ./a.out
9801
python对C语言扩展的支持
许多编程语言都增加了对C语言扩展的支持,原因有二:
(1) 在语言设计之初,可以充分利用C语言已有的库做很多扩展;
(2)C语言的运行效率高。
python也不例外。从它诞生的那天起,很多库都是用C语言编写的。 python的C语言扩展涉及到python的数据结构与C语言的对应关系。扩展方法其实就是用C语言写一个共享库,但是这个共享库里面的接口是一个标准的,可以被python识别。
为了说明如何展开,我假设一个python下的function函数,代码如下:
def func(*a):
res=1
for i in range(len(a)):
res *= sum(a[i])
return res
如上,想要的功能是参数是任意个数的列表(不包括其他数据结构),返回每个列表元素之和的乘积。
姑且先把python代码写了,如下所示:
#!/usr/bin/env python
# test.py
import colin
def func(*a):
res=1
for i in range(len(a)):
res *= sum(a[i])
return res
a = [1,2,3]
b = [4,5,6]
c = [7,8]
d = [9]
e = [10,11,12,13,14]
f = colin.func2(99)
g = colin.func3(a,b,c,d,e)
h = func3(a,b,c,d,e)
print "f = ",f
print "g = ",g
print "h = ",h
带上之前测试过的square func。这个实现比较简单。希望用python写的func能和C语言扩展出来的结果一致。
先用C语言写出这些函数的实现,其中func3使用一个数据结构y_t表示任意数量任意长度的数组,x_t用来表示单个数组。
/* colin.h */
#ifndef Colin_h
#define Colin_h
typedef struct {
int *a;
int len;
} x_t;
typedef struct {
x_t *ax;
int len;
} y_t;
int func2(int a);
int func3(y_t *p);
void free_y_t(y_t *p);
#endif
/* colin.c */
#include "colin.h"
#include <stdlib.h>
int func2(int a)
{
return a*a;
}
int func3(y_t *p)
{
int result;
int sum;
int i, j;
result = 1;
for(i=0;i<p->len;i++) {
sum = 0;
for(j=0;j<p->ax[i].len;j++)
sum += p->ax[i].a[j];
result *= sum;
}
return result;
}
void free_y_t(y_t *p)
{
int i;
for(i=0;i<p->len;i++) {
free(p->ax[i].a);
}
free(p->ax);
}
上面定义了三个函数,func2代表平方,func3代表前面提到的函数,因为y_t的结构体可能是动态分配的,所以给出一个返回内存的方法。
正如我之前提到的 python 扩展,我们需要“标准化”这个共享库的接口。所以我们把它包起来,给一个python加载的入口。
/* wrap.c */
#include <Python.h>
#include <stdlib.h>
#include "colin.h"
PyObject* wrap_func2(PyObject* self, PyObject* args)
{
int n, result;
/* 从参数列表中导出一个整形,用"i" */
if (!PyArg_ParseTuple(args, "i", &n))
return NULL;
/* 用C语言的库实现来计算 */
result = func2(n);
/* 计算结果必须要导成python识别的类型 */
return Py_BuildValue("i", result);
}
PyObject* wrap_func3(PyObject* self, PyObject* args)
{
int n, result;
int i, j;
int size, size2;
PyObject *p,*q;
y_t *y;
y = malloc(sizeof(y_t));
/* 先数数有多少个参数,也就是列表的个数 */
size = PyTuple_Size(args);
/* 把数组的个数先分配了 */
y->len = size;
y->ax = malloc(sizeof(x_t)*size);
/* 遍历python里各个列表(参数) */
for(i=0;i<size;i++) {
/* 先获得第i个参数,是一个列表 */
p = PyTuple_GetItem(args, i);
/* 获得列表的长度 */
size2 = PyList_Size(p);
/* 为数组分配好空间 */
y->ax[i].len = size2;
y->ax[i].a = malloc(sizeof(int)*size2);
/* 遍历列表,依次把列表里的数转到数组里 */
for(j=0;j<size2;j++) {
q = PyList_GetItem(p, j);
PyArg_Parse(q,"i",&y->ax[i].a[j]);
}
}
/* 用C语言的库实现来计算 */
result = func3(y);
free_y_t(y);
free(y);
/* 结果转成python识别格式 */
return Py_BuildValue("i", result);
}
/* 这是接口列表,加载时是只加载此列表的地址,所以这个数据结构不能放栈(局部变量)内,会被清掉 */
static PyMethodDef colinMethods[] =
{
{"func2", wrap_func2, METH_VARARGS, "Just a test"},
{"func3", wrap_func3, METH_VARARGS, "Just a test"},
{NULL, NULL, METH_NOARGS, NULL}
};
/* python加载的时候的接口 */
/* 注意,既然库名叫colin,此函数必须交initcolin */
void initcolin()
{
PyObject *m;
m = Py_InitModule("colin", colinMethods);
}
过程中猜测PyArg_VaParse应该更强大,但反复测试未果,也没有仔细看文档。
测试一下
$ gcc -I /usr/include/python2.7/ -fPIC -shared colin.c wrap.c -o colin.so
$ ./test.py
f = 9801
g = 729000
h = 729000
可以看到,C语言写的函数和python写的函数结果一致。
众多
视频,尽在python学习网,欢迎在线学习!
本文转自:https://www.jianshu.com/p/9ffc1534e588
本文为原创文章,版权归知行编程网所有,欢迎分享本文,转载请保留出处!
你可能也喜欢
- ♥ 如何在 python 中使用 pandas.merge?10/10
- ♥ python函数和方法有什么区别08/19
- ♥ 如何在python中复制对象10/05
- ♥ 什么是python库10/07
- ♥ 如何用python列表删除指定的元素?11/26
- ♥ 如何在python中使用百分比09/13
内容反馈