How to get a multiple pagination api in a python script?
我学习python,我想使用api。
我制作小程序来获取信息,并阻止我的下一个程序。
我想制作一个程序来抓取我学校 api 上的所有学生。
问题是限制分页,我有 15 个用户,但不是全部。
我在文档上搜索如何使用。
我尝试使用循环”for”和特定的 api 参数获取信息:
The Link HTTP response header contains pagination data with first,
previous, next and last raw pages links when available, under the
formatlink: http://xxx.intra.xxx.fr/v2/{Resource}?page=X+1; rel=”next”,
http://xxx.intra.xxx.fr/v2/{Resource}?page=X-1; rel=”prev”,
http://xxx.intra.xxx.fr/v2/{Resource}?page=1; rel=”first”,
http://xxx.intra.xxx.fr/v2/{Resource}?page=X+n; rel=”last”
问题,我不知道要抓取所有页面中的所有信息,而不仅仅是第一页。
我的程序代码:
1
2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 |
import requests import json import sys from sys import argv from operator import itemgetter, attrgetter import json import os UID = ‘REDACTED_USER_ID’ class CONST(object): d = {‘grant_type’: ‘client_credentials’, ‘client_id’: UID, ‘client_secret’: SECRET} def __setattr__(self, *_): CONST = CONST() def campus_id(CAMPUS, MONTH, YEAR, *args): def pool_month(CAMPUS, MONTH, YEAR, *args): def pool_year(CAMPUS, MONTH, YEAR, *args): def get_infos(CAMPUS, MONTH, YEAR, *args): campus = campus_id(*argv[1:], *argv[2:], *argv[3:]) if __name__ == ‘__main__’: |
代码:
1
2 |
for item in level:
tab.append(item[‘login’]) |
是我找到的登录名的数组列表(例如:暂时我已经 “a” “b” “c” “d”),我想获取所有用户
控制台示例:
1
2 3 4 5 6 7 8 9 10 |
> api-test python3 api-test3.py"1""september""2017"
> api-test > cat test.out aaiche abaille abezanni abouquet acourtin adfourca adpusel |
使用
所以你会想要像
这样的东西
1
2 3 4 5 6 7 8 9 10 11 |
# … earlier stuff h = {‘Authorization’: ‘Bearer ‘ + token} params = { ‘filter[primary_campus_id]’: campus, ‘filter[pool_month]’: month, ‘filter[pool_year]’: year, ‘sort’: ‘login’ } get_students = requests.get(‘https://api.intra.xxx.fr/v2/cursus/1/users’, params=params, headers=h) # and so on … |
要特别回答您的分页问题,??您需要在
1
2 3 4 5 6 |
params = { … } # as before
for page_idx in range(number_of_pages): params[‘page’] = page_idx get_students_page = requests.get(…) # combine the outputs somehow, but that depends on the response # and so on… |
原创文章,作者:ItWorker,如若转载,请注明出处:https://blog.ytso.com/tech/python/267973.html