google-app-engine - 预计 GAE/NDB 的响应时间是多少？

Question

我们目前正在构建一个小型且简单的中央 HTTP 服务，可将“外部身份”(如 facebook id)映射到“内部 (uu)id”，这在我们所有服务中都是独一无二的，以帮助进行分析。

“我们的堆栈”(flask+postgresql)中的第一个原型(prototype)是在一天内完成的。但由于我们希望服务(几乎)永远不会失败并自动扩展，我们决定使用 Google App Engine。

经过一周的阅读、尝试和基准测试，这个问题出现了:

什么响应时间在 App Engine(带有 NDB)上被认为是“正常”的？

我们得到的响应时间始终平均超过 500 毫秒，在 90% 的情况下远高于 1 秒。

我在下面附上了我们代码的精简版本，希望有人能指出明显的缺陷。我们非常喜欢自动缩放和分布式存储，但我们无法想象 500 毫秒真的是我们案例中的预期性能。基于 sql 的原型(prototype)响应速度更快(始终如一)，托管在一个 Heroku dyno 上，使用免费的、无缓存的 postgresql(即使使用 ORM)。

我们尝试了以下代码的同步和异步变体，并查看了 appstats 配置文件。 RPC 调用(内存缓存和数据存储)总是需要很长时间(50 毫秒到 100 毫秒)，而且总是有多个调用(例如 mc.get() + ds.get() + ds.set( ) 写)。我们还尝试尽可能多地推迟到任务队列，但没有明显的收获。

import json
import uuid

from google.appengine.ext import ndb

import webapp2
from webapp2_extras.routes import RedirectRoute


def _parse_request(request):
    if request.content_type == 'application/json':
        try:
            body_json = json.loads(request.body)
            provider_name = body_json.get('provider_name', None)
            provider_user_id = body_json.get('provider_user_id', None)
        except ValueError:
            return webapp2.abort(400, detail='invalid json')
    else:
        provider_name = request.params.get('provider_name', None)
        provider_user_id = request.params.get('provider_user_id', None)

    return provider_name, provider_user_id


class Provider(ndb.Model):
    name = ndb.StringProperty(required=True)


class Identity(ndb.Model):
    user = ndb.KeyProperty(kind='GlobalUser')


class GlobalUser(ndb.Model):
    uuid = ndb.StringProperty(required=True)

    @property
    def identities(self):
        return Identity.query(Identity.user==self.key).fetch()


class ResolveHandler(webapp2.RequestHandler):
    @ndb.toplevel
    def post(self):
        provider_name, provider_user_id = _parse_request(self.request)

        if not provider_name or not provider_user_id:
            return self.abort(400, detail='missing provider_name and/or provider_user_id')

        identity = ndb.Key(Provider, provider_name, Identity, provider_user_id).get()

        if identity:
            user_uuid = identity.user.id()
        else:
            user_uuid = uuid.uuid4().hex

            GlobalUser(
                id=user_uuid,
                uuid=user_uuid
            ).put_async()

            Identity(
                parent=ndb.Key(Provider, provider_name),
                id=provider_user_id,
                user=ndb.Key(GlobalUser, user_uuid)
            ).put_async()

        return webapp2.Response(
            status='200 OK',
            content_type='application/json',
            body = json.dumps({
                'provider_name' : provider_name,
                'provider_user_id' : provider_user_id,
                'uuid' : user_uuid
            })
        )

app = webapp2.WSGIApplication([
      RedirectRoute('/v1/resolve', ResolveHandler, 'resolve', strict_slash=True)
], debug=False)

为了完整起见(几乎是默认的)app.yaml

application: GAE_APP_IDENTIFIER
version: 1
runtime: python27
api_version: 1
threadsafe: yes

handlers:
- url: .*
  script: main.app

libraries:
- name: webapp2
  version: 2.5.2
- name: webob
  version: 1.2.3

inbound_services:
- warmup

Answer 1

根据我的经验，RPC 性能会按数量级波动，对于数据存储获取，波动在 5 毫秒到 100 毫秒之间。我怀疑它与 GAE 数据中心负载有关。有时会变得更好，有时会变得更糟。

你的操作看起来很简单。我预计有 3 个请求，大约需要 20 毫秒，但可能长达 300 毫秒。不过，500 毫秒的持续平均值听起来很高。

ndb 在通过 ID 获取对象时进行本地缓存。如果您正在访问相同的用户，那应该会启动，并且这些请求应该快得多。

我假设您正在对生产而不是 dev_appserver 进行性能测试。 dev_appserver 性能不具有代表性。

不确定您测试了多少次迭代，但您可能想尝试更大的次数以查看 500 毫秒是否真的是您的平均值。

当您在简单的 RPC 调用上受阻时，您无法进行太多优化。