帮忙解答一下这个问题。我有一些函数接受数据库中记录的索引作为输入。此函数从数据库中检索记录并对其进行处理。我需要处理数据库中的所有数据,大致来说:
for i in range(10 ** 6):
some_f(i)
问题是:使用异步编程实现它的正确方法是什么?还有其他方法可以加快这个过程吗?
并非所有数据都适合内存,索引也不一定是有序的,如示例中所示。
帮忙解答一下这个问题。我有一些函数接受数据库中记录的索引作为输入。此函数从数据库中检索记录并对其进行处理。我需要处理数据库中的所有数据,大致来说:
for i in range(10 ** 6):
some_f(i)
问题是:使用异步编程实现它的正确方法是什么?还有其他方法可以加快这个过程吗?
并非所有数据都适合内存,索引也不一定是有序的,如示例中所示。
在您的情况下,最简单的选择似乎是分批工作。也就是说,如果内存中放不下所有记录,则一次获取例如 10,000 条记录。
异步在这里没有多大帮助,因为。如果您一次只有足够的内存来处理 10,000 条有条件的记录,那么从数据库中批量获取它们仍然比在 10,000 个单独的请求中异步获取要好。